Göteborgs Atlet- och Idrottssällskap, GAIS, grundades den 11:e mars 1894 på Edlunds konditori och café på Storgatan 7 i Göteborg. Bland grundarna fanns styrkelyftaren Carl "Våran" Gustafsson och inledningsvis var klubben verksamma inom allmän idrott, brottning och tyngdlyftning. Gustafsson tog över ordförandeskapet 1895, och han var en synnerligen aktiv ordförande, som även instruerade ungdomarna och deltog i träningarna.

Fotbollen gjorde entré i GAIS 1897, och den första matchen blev en förlust med 2-0 mot Örgryte IS. Året därpå blev det sex stycken möten á en timme mellan de två lagen, och GAIS förlorade med den sammanlagda målskillnaden 26–0. År 1900 förelåg det risk för en nedläggning av klubben, men i stället uppgick man åren 1901–1903 successivt i Gårda SK, som övertog namnet GAIS. Men även de följande åren såg bleka resultat för grönsvart, och Örgryte var helt dominerande i Göteborgsfotbollen. GAIS största framgång var en oavgjord match, 2–2, mot ÖIS I 1904, och 1907–08 hade klubben ingen dokumenterad verksamhet.

1909 fick fotbollssektionen en skjuts framåt när Friggas fotbollslag anslöt sig till GAIS och säsongen 1915/1916 blev ett genombrott för klubben. Representationslaget blev inbjudet att möta Djurgården, och trots att stockholmarna vann med 4–2 ledde matchen till att GAIS också bjöds in till att spela i Svenska serien. GAIS slutade på plats fyra av sex, men fick ändå inte fortsätta i serien eftersom man ville ha högst två lag från samma stad i ligan och IFK Göteborg och Örgryte höll dessa platser. 
‍
1919 blev GAIS för första gången svenska mästare i fotboll genom att vinna Svenska mästerskapet, och 1922 vann vann man sitt andra SM-guld. Sedan 1921 och fram till Allsvenskans start 1924 fick GAIS även delta i Svenska serien igen, där laget under de kommande tre säsongerna tog andra, första, respektive andra plats. När Allsvenskan gick in i sin första säsong 1924/1925 var GAIS med och vann ligan med två poäng mer än IFK Göteborg. 1927 och 1931 och fram till 1935 slutade laget minst på en femte plats. De allsvenska segrarna 1925 och 1927 räknas dock inte som ett officiellt SM-guld delvis eftersom Svenska fotbollsförbundet anordnade det officiella mästerskapet i fotboll som cupturnering fram till 1925. Först sedan säsongen 1930/31 är den allsvenska mästaren också vinnare av SM-guldet. Därmed räknas den allsvenska segern 1931 som GAIS första SM-guld i Allsvenskan.
‍
1938 åkte GAIS ur Allsvenskan och tillbringade tre år i division II innan laget lyckades att ta sig till Allsvenskan igen och avslutade säsongen 1941/42 med en sensationell andraplats bakom IFK Göteborg. 1954 lyckades man vinna SM-guldet med spelare som Hasse Olsson och skyttekungen Karl-Alfred Jakobsson. 

Efter att ha vunnit allsvenskan 1954 hamnade laget på tredje sista plats 1955, vilket innebar nedflyttning. 1963 vann man kvalet och var därmed tillbaka i Allsvenskan 1964 men åkte ur igen, trots att tränaren Gunnar Gren gick in och spelade under hösten. 1965 tog sig GAIS åter tillbaka till Allsvenskan men sejourerna i lägre divisioner har varvades med några högre allsvenska placeringar, som en fjärdeplats 1974.

Vid derbyt mellan GAIS och IFK Göteborg 1976 kom 50 690 åskådare till Ullevi, vilket var publikrekord för dåvarande Division 2, motsvarande dagens Superettan. Spelåret 1980 var GAIS på väg upp i allsvenskan, men blev i slutstriden passerat av Örgryte. Året efter slutade laget sist i dåvarande division 2.

Säsongen 1982-1983 spelade GAIS i dåvarande Division 3 Nordvästra Götaland, och värvade Samir Bakaou våren 1984 vid återkomsten till dåvarande division 2. 1985 vann Bakaou skytteligan i södertvåan med 20 mål och utsågs till seriens bäste spelare. GAIS fick kvala till Allsvenskan mot Djurgården, men föll på straffar efter två oavgjorda matcher.

Men 1988 spelade man i Allsvenskan igen, och slogs 1989 om en medaljplats. Laget förlorade semifinalen mot Malmö FF men tog en plats i UEFA-cupen 1990/1991. GAIS åker ur Allsvenskan 1992, och hamnar i dåvarande division 1 södra för att sedan spela 1997-1998 i Division 2 och 1998-1999 i Division 1 där man kvalar upp till Allsvenskan.

2000 kom GAIS näst sist i Allsvenskan och därför flyttades ner till Superettan 2001. Man kom trea från slutet och flyttades ner till division 2 (den dåvarande tredjedivisionen, numera ersatt som sådan av Ettan). 2003 kvalificerade man sig dock för Superettan igen efter serieseger och kval mot Mjällby AIF där GAIS vann med 4–2 totalt i matcher och hade en publiksiffra på 11 989 i den sista kvalmatchen hemma på Gamla Ullevi. 2005 kvalificerade sig GAIS på nytt för Allsvenskan efter kval mot Landskrona BoIS. 2006 lyckades man hålla sig kvar samtidigt som Örgryte IS och BK Häcken åkte ur tillsammans med det andra före detta superettanlaget Östers IF. Samma år genomgick Gaisgården en omfattande utbyggnad och renovering, och man anlade konstgräs på anläggningen.

2007 slutade GAIS på elfte plats, och efter säsongen gick tränarduon Roland Nilsson och Hans Gren till Malmö FF. Även 2008 blev det en elfte plats, med Magnus Pehrsson som huvudtränare. Man vann detta år ett derby mot IFK Göteborg, för första gången sedan 1992. Inför säsongen 2009 efterträddes Magnus Pehrsson av Alexander Axén som huvudtränare, och GAIS slutade för tredje året i rad på en elfteplats.

Säsongen 2010 blev facit en trettonde plats, men 2011 blev den mest framgångsrika säsongen för klubben på många år, då man slutade på femte plats i Allsvenskan och blev det högsta placerade laget från Göteborg i serien. 2012 blev ett av GAIS värsta år i Allsvenskan då man hamnade på sista plats i serien med endast 12 poäng av 90 möjliga. GAIS slog också rekordet i flest antal matcher i Allsvenskan utan vinst, vilket tidigare hölls av Billingsfors IK, ÖIS och Trelleborgs FF.

Fram till 2018 slutade laget endast säsongen 2016 på den övre halvan av tabellen. Den största framgången under den här perioden är säsongen 2018 då laget gick till kvartsfinal i Svenska cupen efter att ha slagit ut både allsvenska Hammarby IF och Elfsborg IF i gruppspelet för att i sedan förlora mot Östersunds FK med 0-1.