Odense Boldklub założono 12 lipca 1887 roku jako Odense Cricketklub, organizację, w której jedynym sportem był krykiet. W 1889 roku dodano piłkę nożną i tenis, a nazwę zmieniono na Odense Boldklub, z siedzibą w dzielnicy Munke Mose. Pierwszy znak piłkarskich ambicji przyszedł w 1916 roku, gdy klub wygrał mistrzostwo prowincji i dotarł do półfinału mistrzostw Danii, w którym przegrał 3:9 z B.93 z Kopenhagi. Po drugiej wojnie światowej duńskie rozgrywki zreorganizowano i OB zaczynał od trzeciego poziomu, ale gole Svenda Jørgena Hansena, pierwszego reprezentanta kraju z klubu (1942), i Jørgena Leschly Sørensena zapewniły szybki powrót do ekstraklasy. Sørensen został sprzedany do Atalanty w 1949 roku, a w 1951 roku OB zdobył pierwsze medale, srebrne, za Akademisk Boldklub.
Potem nastąpił długi regres. OB spadł w 1955 roku i mimo awansów w 1957 i 1966 roku nie utrzymał się w ekstraklasie aż do 1975 roku. Lokalny rywal B 1909 zdobył mistrzostwo Danii w 1959 i 1964 roku, a ta rywalizacja dała klubowi rekord frekwencji u siebie, 28 tysięcy widzów na meczu drugiej ligi w 1973 roku. W 1968 roku klub przeniósł się do Ådalen nad rzeką Odense, gdzie trenuje do dziś, a w 1974 roku zagrał w pierwszym finale Pucharu Danii, przegranym 2:5 z Vanløse.
Złota era wiąże się z trenerem Richardem Møllerem Nielsenem, który objął drużynę w 1975 roku, później został selekcjonerem Danii i w 1992 roku poprowadził ją do mistrzostwa Europy. Z pomocnikiem Allanem Hansenem, dwukrotnie Piłkarzem Roku w Danii (1977 i 1981), OB zdobył mistrzostwo Danii w 1977 i 1982 roku, a w 1983 roku dodał puchar, uzyskując swój jedyny dublet. Bramkarz Lars Høgh rozegrał rekordowe w klubie 817 meczów w latach 1977–2000. Trzeci tytuł przyszedł w 1989 roku pod wodzą Roalda Poulsena, przed broniącym tytułu Brøndby. OB pięciokrotnie wygrał też Puchar Danii, w 1983, 1991, 1993, 2002 i 2007 roku. Finał z 1991 roku przeciwko AaB, rozegrany w Odense, ponieważ stadion narodowy był w przebudowie, rozstrzygnęły rzuty karne po dwóch bezbramkowych meczach i dogrywce. Pierwszy tytuł przyniósł też pierwszy mecz w Europie, w Pucharze Europy 1978, zakończony porażką w pierwszej rundzie z Lokomotiwem Sofia.
Największy europejski wynik klubu nazywany jest w Danii Cudem w Madrycie. W Pucharze UEFA 1994/95 OB pokonał Florę Tallinn 3:0 i 3:0, Linfield 1:1 i 5:0 oraz wyeliminował Kaiserslautern zasadą goli na wyjeździe po remisach 1:1 i 0:0, po raz pierwszy w historii przechodząc pierwszą rundę europejskich rozgrywek. W czwartej rundzie los przydzielił Real Madryt, drużynę Michaela Laudrupa. OB przegrał pierwszy mecz 2:3 u siebie i dlatego w Hiszpanii musiał wygrać dwoma bramkami. Ulrik Pedersen dał Duńczykom prowadzenie, Høgh nie pozwolił Hiszpanom strzelić gola, a Morten Bisgaard zdobył drugiego gola tuż przed doliczonym czasem, dając OB zwycięstwo 4:3 w dwumeczu. Komentatorzy zauważali, że była to opowieść, jakiej nie wymyśliłby nawet Hans Christian Andersen, urodzony w Odense. W ćwierćfinale Parma wygrała 1:0 na wyjeździe po rzucie karnym spowodowanym przez Steena Nedergaarda, a rewanż w Odense zakończył się wynikiem 0:0.
Od tego czasu klub przeżywał ostre wahania. Spadł w 1998 roku, wrócił rok później jako zwycięzca drugiej ligi, a w Superlidze zajął drugie miejsce w sezonach 2008/09 i 2009/10. Sprzedaż napastnika Pera Pedersena do Blackburn Rovers za 2,3 miliona funtów w 1997 roku pozostaje klubowym rekordem. W sezonie 2023/24 OB spadł po raz pierwszy od 26 lat, ale w następnym sezonie wygrał 1. Division i wrócił do Superligi, kończąc sezon 2025/26 na ósmym miejscu pod wodzą niemieckiego trenera Alexandra Zornigera. Kibice nazywają drużynę De Stribede, Pasiaści, a domem klubu jest stadion w Ådalen.