Rio Ave FC powstał 18 stycznia 1939 roku w Vila do Conde, nadmorskim miasteczku w północnej Portugalii, w odległości nieco ponad dwudziestu kilometrów od Porto. Założyła go grupa pięciu osób, a nazwę klub wziął od rzeki Ave, która przepływa przez miasto i wpada tam do Atlantyku. Pierwszy mecz rozegrał 6 maja 1939 roku w Beiriz i przegrał z miejscową drużyną. Przez kolejne dekady grał na poziomie regionalnym, a od lat siedemdziesiątych zaczął wspinać się w piłkarskiej piramidzie. Dla kibiców jest „Rio Grande”, czyli Wielką Rzeką, choć to klub, który zawsze żył skromnie, a jego barwy to zieleń i biel.
Do Primeira Liga Rio Ave awansował dopiero w 1979 roku, czterdzieści lat po założeniu, i po pierwszym sezonie spadł. Przełomem były lata osiemdziesiąte, gdy trenerem został Félix Mourinho, ojciec José Mourinho, który w klubie również pracował. Pod jego wodzą Rio Ave zajęło w sezonie 1981/82 piąte miejsce w lidze, co przez dekady pozostawało najlepszym wynikiem w jego historii. Nadszedł też moment, który klub zapamiętał na zawsze.
W 1984 roku Rio Ave, wbrew wszelkim przewidywaniom, zagrało w finale Pucharu Portugalii na stadionie Jamor. Po drodze pokonało między innymi lokalnego rywala Varzim, w ostatnim szesnastu drużyn, po serii rzutów karnych. W finale zmierzyło się z FC Porto i przegrało 1:4. Obraz tego meczu zapadł w pamięć także z innego powodu: zawodnicy Rio Ave wyszli na boisko mocno zarośnięci, a „brodacze z Vila do Conde” stali się jednym z symboli tamtej epoki portugalskiej piłki. Sezon później klub spadł z ligi.
W latach dziewięćdziesiątych i na początku XXI wieku Rio Ave kilkakrotnie wygrywał rozgrywki drugiej ligi, w sezonach 1995/96 i 2002/03, i za każdym razem wracał do elity. Wraz z kolejnymi pokoleniami piłkarzy klub budował swoją markę jako miejsce, w którym szlifują się młode talenty. Przewinęli się przez niego między innymi bramkarz Jan Oblak, pomocnik Fabinho i napastnik Mehdi Taremi, a na ławce trenerskiej wyrastał Nuno Espírito Santo.
Kulminacją był sezon 2013/14. Pod wodzą Nuno Rio Ave dotarło do dwóch finałów w jednym sezonie: Pucharu Portugalii i Pucharu Ligi. W finale Pucharu Portugalii klub przegrał z Benficą 0:1, ale ten wynik dał mu pierwszy w historii start w europejskich pucharach. W sezonie 2014/15 Ligi Europy pod wodzą Pedro Martinsa Rio Ave wyeliminowało szwedzkie kluby IFK Göteborg i Elfsborg, awansując do fazy grupowej, a w rewanżu z Elfsborgiem zwycięską bramkę zdobyło w doliczonym czasie gry.
Kolejne lata przyniosły dwa piąte miejsca w lidze, w sezonach 2017/18 i 2019/20, oraz kolejny pamiętny wieczór w Europie. W 2020 roku w barażu Ligi Europy Rio Ave zremisowało u siebie 2:2 z AC Milan, a w serii rzutów karnych uległo 8:9, po jednej z najdłuższych serii w historii europejskich pucharów. Wkrótce klub spadł z Primeira Liga, ale w sezonie 2021/22 wygrał drugą ligę i wrócił na wyższy poziom. Ten rytm upadków i powrotów jest zresztą jego znakiem rozpoznawczym.
Domem klubu jest Estádio dos Arcos, oficjalnie Estádio do Rio Ave FC, zbudowany w 1984 roku, więc w roku najsłynniejszego finału. Jego nazwa pochodzi od osiemnastowiecznego akweduktu w Vila do Conde, którego arkady wznoszą się tuż obok murawy. Obiekt jest symbolem klubu, który mimo niewielkich rozmiarów miasta potrafił rzucić wyzwanie największym i zapisać się w historii europejskich pucharów.