W starym Oosterparkstadionie w Groningen jedna z trybun nosiła imię Tonny’ego van Leeuwena, bramkarza, który zmarł w wieku 28 lat, dzień przed formalnym powstaniem FC Groningen. Ten szczegół dobrze pokazuje, jak mocno klub wyrasta z lokalnej tradycji. Powstał 16 czerwca 1971 roku jako następca GVAV, zespołu, który w 1956 roku był jednym z założycieli Eredivisie, a jego tożsamość od początku opierała się na przywiązaniu północnej Holandii do własnego futbolu.
Piłka nożna w Groningen ma jeszcze starsze korzenie. W 1887 roku uczniowie miejscowego gimnazjum założyli klub Be Quick, który w 1920 roku został mistrzem Holandii, krótko po tym, jak kluby z północnych prowincji uzyskały prawo gry w krajowych barażach. Z czasem prym w mieście przejął jednak GVAV, który w 1933 roku przeniósł się na nowo otwarty stadion Oosterpark. Początkowo mieścił on zaledwie 524 miejsca siedzące, ale przez kolejne dziesięciolecia był domem klubu, aż do 2005 roku. W 1954 roku GVAV przyjął profesjonalizm, a z czasem odebrał Be Quickowi pozycję lidera miasta.
Pierwsze lata FC Groningen nie były łatwe. Po debiutanckim sezonie w Eredivisie klub spadł do drugiej ligi z powodu kłopotów finansowych, do elity wrócił w 1979/80 jako mistrz Eerste Divisie i pozostał w niej niemal dwadzieścia lat, do spadku w sezonie 1997/98. Najlepszym wynikiem w lidze jest trzecie miejsce w sezonie 1990/91, co pokazuje, że klub z północy potrafił rywalizować z potęgami z Amsterdamu, Eindhoven i Rotterdamu.
Najbardziej pamiętny wieczór w Europie przypada na sezon 1983/84, kiedy Groningen zadebiutował w Pucharze UEFA. W pierwszej rundzie trafił na Atlético Madryt. Po przegranym pierwszym meczu zespół wygrał w Groningen 3:0 i awansował po dwumeczu 4:2. W kolejnej rundzie odpadł z Interem Mediolan. Klub wielokrotnie występował później w europejskich pucharach, jednak nigdy nie zagrał w fazie grupowej najważniejszych rozgrywek.
Największy sukces w kraju przyszedł w 2015 roku. Zespół prowadzony przez Erwina van de Looiego pokonał w finale Pucharu Holandii PEC Zwolle 2:0 i zdobył pierwsze oraz jedyne trofeum krajowego pucharu w swojej historii. Wcześniej, w sezonie 1988/89, dotarł do finału tych rozgrywek, ale go przegrał. Zwycięstwo z 2015 roku dało awans do Ligi Europy i wywołało radość w całym mieście.
Klub od dziesięcioleci słynie z wychowywania talentów. Arjen Robben trafił do klubu jako nastolatek i grał w nim do 2002 roku, po czym przeszedł do PSV, a w 2020 roku na krótko do niego wrócił. W Groningen przebił się również Luis Suárez, który w sezonie 2006/07 zaczął tam europejską karierę, a w barwach klubu występowali także Virgil van Dijk oraz bracia Ronald i Erwin Koeman, których ojciec Martin Koeman bronił barw GVAV.
Od 2006 roku FC Groningen gra na stadionie Euroborg, na którym atmosfera wyróżnia się wśród holenderskich aren, bo wśród kibiców jest wielu studentów. Obiekt bywa nazywany „De Groene Hel” („Zielone Piekło”), a zielono-białe barwy są barwami miasta. Hasło „Trots van het Noorden”, czyli „Duma Północy”, najlepiej oddaje charakter klubu. Po spadku z Eredivisie w sezonie 2022/23 zespół wrócił do niej w 2024 roku, a FC Groningen pozostaje stałym elementem holenderskiej piłki, dumą północy kraju.