To nebylo lehké už jen kvůli tomu, že neměla vlastní hřiště. Nejdříve byla zařazena do tehdejší nejnižší soutěže, odkud ihned postoupila, ač neměla vlastní hřiště a všechny zápasy tedy odehrála na hřištích soupeřů.
Vlastní hřiště měla Slezská Ostrava až roku 1925 a dále se postupně dostávala do vyšších pater českých fotbalových soutěží. Pro potřeby divize, kam se dostala roku 1934 už stávající hřiště nestačilo, a tak se přestěhovala na Starou střelnici. V ročníku 1935/1936 již klub vyhrál divizi, což znamenalo postup do kvalifikace o 1. ligu, ze které Slezská Ostrava do nejvyšší souutěže opravdu postoupila a odehrála v ní ještě dva ročníky před 2. světovou válkou a další dvě sezóny za Protektorátu, ovšem bez výraznějších úspěchů. Již tenkrát se ale v Ostravě chodilo na fotbal v hojném počtu. Na přátelský zápas se Slávií (prohra 3:6) se přišlo podívat 33 000 diváků, na další přátelský zápas s CDKA Moskva již po válce dokonce 35 000, Slezská Ostrava v něm vyhrála 4:3 a pro moskevský tým to byla první prohra po dvou letech. I díky tomu se stal klub slavným i za našimi hranicemi a vyrážel na zahraniční zájezdy.

Po roce 1945 se začala opět hrát nejvyšší československá soutěž, v jejíž 48 ročnících chyběl klub jen dvakrát a je v tomto ohledu hned po Spartě nejúspěšnějším klubem. Po roce 1948 se z názvu klubu vytratilo slovo Slezská a nahradilo ho Sokol, které z názvu zmizelo roku 1952, kdy se klub přejmenoval na DSO Baník Ostrava. Baník z názvu již nevymizel a fanoušci ho přijali za své, používá se dodnes. Pod tímto názvem klub také zažil své největší úspěchy.

V ročníku 1954/1955 se Baník umístil na druhém místě, což byl do té doby největší úspěch. Celkem se na druhém místě umístil v československé lize šestkrát. Důležitým milníkem byl také rok 1959, kdy se klub přestěhoval na nynější stadion, na Bazaly. V sezóně 1962/1963 se mu podařilo uhrát třetí místo, ale za tři roky, v ročníku 1965/1966 přišel sestup, hned další rok se však klub do nejvyšší soutěže vrátil. Největších úspěchů se v československé lize Baník dočkal v ročnících 1975/1976, 79/80 a 80/81, kdy jeho hráči zvedali nad hlavu mistrovský pohár. V letech 1973, 78 a 91 se taktéž třikrát radovali ze zisku Československého poháru.
Z úspěchů v lize pramenily i účasti v evropských pohárech. V evropském poháru si poprvé zahrál Baník v sezóně 1969/1970. V tehdejším Veletržním poháru, předchůdci Poháru UEFA, skončil ale již v prvním kole. Od té doby si Baník zahrál jak Pohár UEFA, Pohár vítězů pohárů i Pohár mistrů evropských zemí.

Největšími úspěchy bylo čtvrtfinále Poháru UEFA 1973/1974, kam se dostal Baník přes Real Sociedad San Sebastian, FC Nantes a Neapol. Nezvládnul až čtvrtfinálový souboj s Borussií Mönchengladbach.
Pro sezónu 1976/1977 se klub kvalifikoval díky předchozímu mistrovskému titulu premiérově do PMEZ, kde v prvním kole vyřadil Viking Stavanger, ve druhém kole byl už nad jeho síly vítěz předchozích třech ročníků, Bayern Mnichov, který Baník sice doma porazil před návštěvou 32 000 diváků 2:1, ale v odvetě německý tým vyhrál jasně 5:0.

Nejdále se Baník dostal v evropském poháru v ročníku 1978/1979 v PVP. Po vyřazení Sportingu Lisabon, Shamrocku Rovers a těsném vítězství nad Magdeburkem se ocitl v semifinále. Tam ale nepřešel přes Fortunu Düsseldorf, když v německu prohrál 1:3 a tak následná výhra 2:1 na Bazalech před 32 000 návštěvou nestačila.
Nejúspěšnější období historie klubu zakončil Baník v PMEZ 1980/1981, kdy se přes Vestmannaeyjar a Dynamo Berlín dostal do čtvrtfinále, když se mu stal osudem opět Bayern Mnichov. V Mnichově Baník prohrál 0:2, na Bazalech, kam naposledy příšla návštěva 32 000, 2:4 a Bayern tak celkem jasně postoupil. Poté již tým žádný velký úspěch v evropských pohárech neudělal a i v československé lize začal jeho pád z nejvyšších příček.
Od roku 1990 se klub jmenuje dnešním názvem, FC Baník Ostrava. Oprášit zašlou slávu se však nedařilo a klub se i po vytvoření samostatné české ligy nepohyboval na nejvyšších příčkách a měl i finanční potíže. Ty se podařilo vyřešit díky prodejům za velké peníze do zahraničí Jankulovskiho a především Baroše, klub se stabilizoval.
A tak po povedeném nákupu útočníka Heinze, návratu veterána Látala, s dalšími zkušenými hráči jako Čížek, Slončík nebo jistým obráncem Bolfem, kteří byli doplněni nadějnými hráči Matušovičem, Mario Ličkou, útočným obráncem Pospěchem a v bráně spolehlivým Laštůvkou, se v sezóně 2003/2004 slavil v Ostravě po dlouhé době opět titul, na kterém měli velký podíl fanoušci, kteří na Bazaly chodili v hojném počtu. Tým měl i blízko k zisku doublu, ale ve finále Českého poháru podlehl Spartě. Na úspěších měl velký podíl také trenér Komňacký.
Následně neuspěl v kvalifikaci o Ligu mistrů 2004/2005, když bylo rozhodnuto již po prvním zápase proti Leverkusenu, kdy Baník v Německu prohrál 0:5. Domácí výhra 2:1 již nic neřešila. To už byl ale jiný tým než ten z předchozího ročníku, protože mnoho opor odešlo a nahradili je jiní, kteří jak se poté ukázalo nebyli tak kvalitní. To dokládal i další vývoj sezóny. V Poháru UEFA Baník jasně vypadl s anglickým Middlesbrough, zanedlouho po neúspěších v lize byl vyhozen trenér Komňacký. Nový trenér Jarabinský již ligu nezachránil, tam skončil nakonec na sedmém místě, náplastí bylo alespoň vítězství v Českém poháru.

1. liga 2006/2007 byla pro Baník podobně bídná jako ta minulá a i v Poháru UEFA skončil hned v prvním kole na nizozemském Heerenveenu. Po vítězství doma 2:0 přišla ledová sprcha a prohra 0:5 v odvetě. V domácím poháru pak prohra po penaltovém rozstřelu se Spartou ve finále znamenala i konec s evropskými poháry pro další sezónu.
Klubovými barvami jsou modrá a bílá, klub byl založen roku 1922. Největšími postavami v historii klubu jsou Miroslav Wiecek (trojnásobný král střelců v padesátých letech), Tomáš Pospíchal, Františel Schmucker, Rostislav Vojáček, Werner Lička, Luděk Mikloško, Pavel Srníček, Tomáš Řepka, Tomáš Galásek, Marek Jankulovski, René Bolf, Milan Baroš, Radek Látal a Marek Heinz. Slavným trenérem je Evžen Hadamczik.
Baník má dlouhodobě nejlepší mládež u nás, ze které také patřičně těží. Odchovanci mu pomáhají jak na trávnících, tak poté i finančně při prodeji.
Domácí zápasy hraje na stadionu na Bazalech s kapacitou 17 372 míst. Je však už starý, nesplňuje požadavky pro mezinárodní zápasy a není ho možné již ani rekonstruovat. Proto se výhledově počítá se stěhováním klubu do nové arény pro 30 000 diváků, která má v příštích letech vyrůst ve Vítkovicích.