Sezona 1971/1972 će vječno ostati upisana kao najsvjetlija u dugoj klupskoj historiji. Ne samo da je to bila prva državna titula ovog kluba koji je postepeno i uz neobično brojne prepreke izrastao iz skromnog radničkog kluba u respektabilnu silu. Godine rada sa mladim igračima u vlastitom omladinskom pogonu i posvećenost stručnog štaba predvođenog Milanom Ribarom stvorili su prepoznatljiv tim. Mnogi su ovaj tim smatrali domaćim predvodnicima tzv. “totalnog” fudbala koji će se pojaviti u to vrijeme na svjetskim terenima. Veliki broj reprezentativaca u svim kategorijama je bio dokaz kvalitetnog rada, a titula osvojena 1972. je kruna uspjeha i dugogodišnjeg rada.
Čitavim tokom sezone se odvijala trka između dva kluba – Željezničara i Crvene zvezde. Ostali klubovi nisu bili ozbiljan konkurent u tom trenutku. Iz kola u kolo su se redali sjajni rezultati. Pobjeda od 8:0 protiv Maribora će ostati zabilježena kao najveća pobjeda Željezničara u jugoslovenskom prvoligaškom društvu, a pobjeda od 4:0 nad Partizanom u Beogradu u posljednjem kolu je označila i definitivan kraj tijesne i uzbudljive borbe. Željezničar je postao šampion Jugoslavije. Slobodan Janjuš, Dragan Kojović, Velija Bećirspahić, Blagoje Bratić, Josip Katalinski, Enver Hadžiabdić, Branimir Jelušić, Božidar Janković, Josip Bukal, Edin Sprečo, Avdija Deraković, ali i Slobodan Kojović, Fahrija Hrvat, Džemaludin Šerbo, Nusret Kadrić, Hajrudin Saračević, Miloš Radović i Željko Rodić su ubilježili nastupe u toj fenomelanoj sezoni.
Osim šampionske titule, klub je u istoj sezoni ostvario zapažene rezultate i u Kupu sajamskih gradova (takmičenju koje je vremenom preraslo u Evropsku ligu). Željezničar je redom izbacivao klubove kao što su Brugge, Bologna i St. Johnstone, no još jednom su se Mađari pokazali kao neprelazna prepreka. U četvrtfinalu, bolji od nas je bio Ferencváros. Obje utakmice su završile rezultatom 2:1, ali je mađarska ekipa nakon izvođenja jedanaesteraca prošla u polufinale.
Nažalost, klub kao da se nije mogao nositi sa težinom rezultata koje je postigao i u narednoj sezoni je imao vrlo loš start. Uporedo s tim, zabilježen je i prvi historijski nastup u Kupu evropskih šampiona. Protivnik je bio engleski šampion Derby County koji je sa klupe vodio veliki Brian Clough. U Engleskoj je bilo 0:2, a na Grbavici 1:2. S druge strane, u domaćem prvenstvu smo igrali prilično loše i tek je furiozan završetak sezone donio peto mjesto na tabeli.
U sezonama koje su uslijedile, rezultati i plasman na tabeli su bili sve lošiji i lošiji. Osmo, deveto, dvanaesto mjesto su bili posljedica odlaska onih najboljih igrača, a klupu je poslije devet godina 1976. napustio Milan Ribar. Sezonu 1976/1977 Željezničar je okončao na posljednjem mjestu i klub je, posljednji put u svojoj historiji, otišao u niži rang. Smjena generacija i odlazak velikog trenera rezultirali su naglim padom, a u izuzetno kvalitetnoj ligi, kao što je je bila tadašnja jugoslovenska, prostora za to nije bilo.
U sjeni toga je ostao i povratak na Grbavicu. Rekonstruisani stadion je otvoren u proljeće 1976. godine. Nove betonske tribine i reflektori koji su omogućavali odigravanje noćnih utakmica su bili pravi mali podvig, postignut uz pomoć brojnih prijatelja našeg kluba.