Dana 17. septembra 1921. godine, Fudbalski klub Željezničar je odigrao svoju prvu zvaničnu utakmicu, koju mnogi smatraju danom osnivanja jednog od najpoznatijih fudbalskih klubova u Bosni i Hercegovini. Taj prvi meč odigran je protiv tadašnje najjače ekipe u Sarajevu, SAŠK-a, iako je rezultat bio 1:5 u korist protivnika, to je označilo početak slavne historije Želje.
Inicijativu za osnivanje kluba pokrenuo je mladi željezničar Dimitrije Dimitrijević 1920. godine, zajedno sa kolegama Ludvigom Lepleom i Stjepanom Katalinićem. Oni su formirali odbor iz kojeg je proizašla prva uprava kluba, predvođena Hinkom Tegzešom. Klub je dobio podršku radnika Željeznice, koji su pomogli u nabavci prve opreme i lopte, a djevojke igrača izvezle su prvi grb s likom lokomotive.
Prva utakmica, iako rezultatski neuspješna, nagovijestila je svijetlu budućnost kluba. Dimitrijević je postigao prvi zvanični gol u historiji Željezničara. Željezničar je uskoro postao član Fudbalskog podsaveza i počeo se takmičiti u Drugom razredu, gdje je ostao do 1926/27. sezone, kada je prešao u Prvi razred sarajevskog podsaveza, gdje se takmičio sve do Drugog svjetskog rata.
Klub se suočavao s mnogim izazovima, ali je na kraju 1971/72. sezone osvojio šampionsku titulu u Jugoslaviji. Posebno je upamćena i ekipa predvođena Ivicom Osimom koja je stigla do polufinala Kupa UEFA 1985. godine, što je jedan od najvećih uspjeha kluba.
Željezničar je danas simbol radničkog duha i sportske borbenosti, te zauzima posebno mjesto u srcima svojih navijača.
