Klub založený v Hejčíně zprvu nehrál ve vyšších českých a československých soutěžích. První mistrovskou soutěž hrál až v roce 1928, byl zařazen do II. třídy Hanácké fotbalové župy. Poté žádný výraznější posun dopředu dlouho nezaznamenal.

            V roce 1949 přišlo nucené slučování klubů, které postihlo i Hejčín. Sloučil se s dalšími dvěma kluby a tím vznikl Sokol MŽ Olomouc. To se již z názvu definitivně vytratila původní příslušnost k Hejčínu. Klubu se ale stále nedařilo postupovat do vyšších soutěží. Až v roce 1963 se na dva ročníky dostal do II. ligy, ale poté zabředl na 9 sezón do divize. Z ní postoupil roku 1974, už ale jen do mezi tím reorganizací vytvořené III. ligy. O postup se tenkrát zasloužil mimo jiné tehdejší nový trenér Karel Brückner, který začal více spoléhat na odchovance. V těchto letech se začal již tvořit tým, který měl velký potenciál a dal základ k dalšímu vzestupu. Již druhou sezónu ve III. lize přišel postup do druhé nejvyšší soutěže. To se již v názvu objevoval název strojírenské firmy Sigma, který se v něm nachází od roku 1966 až do dnešní doby.

            Dlouholeté úsilí olomouckých vyvrcholilo v roce 1982, kdy přišel postup do I. ligy, vybojovaný pod trenérem Vlastimilem Zemanem. V ní si sice zahráli jen jeden ročník, ale zpět se vrátili opět po roce, tentokrát opět pod taktovkou trenéra Karla Brücknera. Od sezóny 1984/1985 jsou pak v nejvyšší soutěži až dodnes a za tu dobu si několikrát zahráli evropské poháry.

            Sigma Olomouc dosáhla významného úspěchu hned v sezóně 1985/1986, kdy obsadila 4. místo a pro příští rok se dostala poprvé do pohárové evropy, do Poháru UEFA, kde stále ještě pod trenérem Brücknerem vypadla již v 1. kole se švédským Göteborgem, pozdějším vítězem celé soutěže. Na konci ročníku pak úspěšný trenér z klubu odešel. Zpět se vrátil v roce 1991. To se klub kvalifikoval díky třetímu místu z předcházející sezóny opět do Poháru UEFA, kde přišel jeho největší úspěch v historii. Dostal se až do čtvrtfinále, když na své cestě vyřadil Brangor City, Torpedo Moskva a Hamburger SV (jednoznačný postup - výhra venku 2:1 a doma 4:1). Tažení Olomouce zastavil až slavný Real Madrid, a to po vyrovnaných zápasech - remíze 1:1 doma a prohře 0:1 ve Španělsku.

            Ten rok to bylo v lize opět třetí místo a v Poháru UEFA 1992/1993 vyřazení ve 3. kole opět slavným klubem, Juventusem Turín.

            Největší úspěch v I. lize přišel v ročníku 1995/1996, a to druhé místo (opět po návratu trenéra Brücknera) a opětovná účast v Poháru UEFA o ročník dále, kdy ale Sigma vypadla již v předkole. Od té doby byla nejlepším umístěním Sigmy v nejvyšší soutěži třetí místa, a to v sezónách 1997/1998 a 2000/2001 a 2003/2004. Poháru UEFA se účastnila ještě čtyřikrát, ale již nikdy se nedostala dál než do 1. kola.

            Nejlepšími hráči, kteří za olomoucký klub hráli, byli například účastníci spanilé jízdy Pohárem UEFA do čtvrtfinále Pavel Hapal a Radoslav Látal, kteří se později prosadili do zahraničí i do reprezentace nebo Josef Mucha, který vybojoval se Sigmou druhé místo v lize. Ze starší generace je to pak Oto Vyskočil, Jiří Fiala nebo Vlastimil Petržela.

            Klubové barvy Sigmy Olomouc jsou modrá a bílá. Domácí zápasy hraje již od roku 1969 na Andrově stadionu, který má kapacitu 12 014 diváků.