Randers FC nie ma daty założenia z XIX wieku, a jednak ma historię starszą niż jego wiek: powstał 1 stycznia 2003 roku jako współpraca sześciu lokalnych klubów: Dronningborg Boldklub (założony w 1928 roku), Hornbæk Sportsforening (1945), Kristrup Boldklub (1908), Randers Freja (1898), Randers KFUM (1920) i Vorup Frederiksberg Boldklub (1930). Drużyna zawodowa kontynuowała grę na licencji Randers Freja, klubu, który trzykrotnie wygrał Puchar Danii i w sezonie 1968/69 dotarł do ćwierćfinału Pucharu Zdobywców Pucharów. Nowy klub zaczynał więc w 2003/04 na drugim poziomie, ale z tradycją sięgającą ponad stulecia.
Herb stworzony w styczniu 2003 roku przedstawia niebieskiego konia. Nawiązuje do wielkiej rzeźby konia w centrum Randers, stojącej tam od około trzydziestu lat i będącej nieoficjalnym symbolem miasta, i tłumaczy przydomek Hestene, Konie. Klub z Jutlandii Wschodniej pozostaje blisko lokalnych korzeni. Badanie duńskiej prasy umieściło kiedyś jego budżet wśród trzech najmniejszych w Superlidze, co czyni wyniki ostatnich dwóch dekad tym bardziej godnymi uwagi.
Pierwszy wielki sukces przyszedł bardzo szybko. W sezonie 2005/06 Randers awansował z powrotem do Superligi z 61 punktami, a 11 maja 2006 roku na stadionie Parken w Kopenhadze wygrał też Puchar Danii, pokonując w finale Esbjerg 1:0. Był to pierwszy zespół od 1974 roku, który zdobył puchar, grając na drugim poziomie. Dało to miejsce w Pucharze UEFA 2006/07, w którym Randers pokonał zespoły z Islandii i Litwy w dwóch rundach kwalifikacyjnych, a potem trafił w pierwszej rundzie głównej na Fenerbahçe i przegrał w dwumeczu 1:5. Ten sam sezon zakończył się remisem 3:3 na wyjeździe z mistrzem, Kopenhagą, i piątym miejscem w lidze, najlepszym w początkach klubu.
Europejskie puchary wracały do Randers kilkakrotnie: w sezonach 2009/10 i 2010/11 dzięki rankingowi fair play oraz w 2015/16, gdy klub odpadł w drugiej rundzie kwalifikacji. W lidze najwyższe miejsce przyniósł rok 2013, kiedy Randers zajął trzecią lokatę, a także dotarł do finału pucharu, choć go przegrał. W 2010 roku utrzymał się w lidze tylko o włos po dramatycznej walce w dole tabeli. Były obrońca reprezentacji Anglii Colin Todd, który kiedyś prowadził klub, należy do bardziej znanych nazwisk na ławce trenerskiej.
Drugi Puchar Danii przyszedł 13 maja 2021 roku po zwycięstwie nad SønderjyskE w finale rozegranym poza tradycyjnym miejscem w Kopenhadze. Pod wodzą trenera Thomasa Thomasberga Randers przegrał barażowy mecz Ligi Europy z Galatasaray 2:3 w dwumeczu, o włos od awansu, i wszedł do pierwszej w swojej historii europejskiej fazy grupowej, w nowo powstałej Lidze Konferencji. Zajął drugie miejsce w grupie D za AZ Alkmaar, przed Jablonec i CFR Cluj, a w barażach o fazę pucharową przegrał z Leicester City. Stadion domowy, historycznie znany jako Randers Stadion, a dziś noszący nazwę komercyjną, mieści około 12 tysięcy widzów, a klub pozostaje stałym uczestnikiem duńskiej Superligi, przykładem tego, jak połączenie sześciu klubów może stworzyć trwałą drużynę ekstraklasy.