Portsmouth FC posiada rekord, którego żaden inny klub raczej nie pobije: przez siedem lat klub trzymał Puchar Anglii. Wygrał go w 1939 roku, pokonując Wolverhampton Wanderers 4:1 na Wembley, co zaskoczyło faworytów, a drużyna kapitana Jimmy'ego Guthriego prowadziła 3:0 krótko po przerwie. Wybuch II wojny światowej zawiesił rozgrywki, a Portsmouth trzymał trofeum do finału w 1946 roku. Trenerem tego zespołu był Jack Tinn, który wcześniej doprowadził klub do finałów z 1929 i 1934 roku, obu przegranych.
Klub założono 5 kwietnia 1898 roku pod numerem 12 przy High Street w Old Portsmouth, a jego stadion, Fratton Park, zbudowano na ziemi kupionej w tym roku. Pierwszym meczem na obiekcie był towarzyski mecz z Southampton we wrześniu 1898 roku, a klub gra tam od 1899 roku. To jeden z nielicznych angielskich stadionów, który nigdy nie został zastąpiony. Trybuna Fratton End, odbudowana w 1997 roku, ma na siedzeniach wizerunek Jimmy'ego Dickinsona, a rekord frekwencji, 51 385 widzów, padł w lutym 1949 roku w meczu Pucharu Anglii wygranym 2:1 z Derby County. Pieśń klubowa Chimes została przejęta przez kibiców z nieistniejącego klubu Royal Artillery i śpiewana jest od pierwszych lat istnienia klubu.
Najbardziej udany okres przypadł na czasy powojenne. W sezonie 1948/49, w 50. rocznicę klubu, Portsmouth zdobył pierwszy tytuł mistrzowski, a jego osią była gra Jacka Froggatta, Jimmy'ego Scoulara i Dickinsona. W 1949/50 obronił mistrzostwo, wyprzedzając Wolves lepszą średnią bramkową, i należy do nielicznych klubów, które w tamtych latach wygrały angielską ligę dwa razy z rzędu. Dickinson, który całą karierę spędził na Fratton Park, rozegrał dla klubu 764 mecze ligowe i zagrał 48 razy w reprezentacji Anglii, co czyni go postacią kluczową. Portsmouth spadł z ligi w 1959 roku i później zjechał aż do trzeciej ligi, więc lata tytułów stoją osobno.
Drugi okres sukcesów nadszedł po 2002 roku, gdy klub wygrał drugą ligę i wrócił do Premier League pod wodzą Harry'ego Redknappa. W sezonie 2007/08 drużyna, w której grali Sol Campbell, Sulley Muntari, Niko Kranjčar i Nwankwo Kanu, zajęła ósme miejsce w lidze. W drodze do finału Pucharu Anglii wygrała na Old Trafford z Manchesterem United, a w finale na Wembley jedyny gol Kanu dał zwycięstwo 1:0 nad Cardiff City, z Campbellem jako kapitanem. To był drugi Puchar Anglii klubu, 69 lat po pierwszym.
Ten triumf przyniósł europejskie puchary. W Pucharze UEFA 2008/09 Portsmouth zremisował 2:2 z AC Milan w grupie, w której byli także Braga, Wolfsburg i Heerenveen, ale porażki w Bradze i Wolfsburgu zakończyły nadzieje na awans. Klub dotarł do finału Pucharu Anglii także w 2010 roku, przegrywając z Chelsea, ale był już wtedy w poważnym kryzysie finansowym, który doprowadził do administracji w 2010 i 2012 roku oraz kilku spadków.
Klub przetrwał, a odbudowa była stopniowa. Portsmouth wygrał League Two w 2016/17 i EFL Trophy w 2018/19, a w 2024/25 zajął 16. miejsce w Championship. Klub gra w niebieskich barwach, a jego przydomek, Pompey, odnosi się zarówno do klubu, jak i do miasta. Dla kibiców połączenie dwóch tytułów mistrzowskich, siedmioletniego posiadania Pucharu Anglii i stadionu, który nigdy się nie przeniósł, daje Portsmouth miejsce w angielskiej piłce nieproporcjonalne do jego wielkości.