El Odense Boldklub fue fundado el 12 de julio de 1887 como Odense Cricketklub, una entidad cuyo único deporte era el críquet. En 1889 se añadieron el fútbol y el tenis y se cambió el nombre a Odense Boldklub, con sede en la zona de Munke Mose de la ciudad. La primera señal de ambición futbolística llegó en 1916, cuando ganó el campeonato provincial y alcanzó las semifinales del campeonato de Dinamarca, donde perdió 3-9 ante el B.93 de Copenhague. Tras la Segunda Guerra Mundial se reorganizó la liga danesa y el OB empezó en la tercera categoría, pero los goles de Svend Jørgen Hansen, su primer internacional (1942), y de Jørgen Leschly Sørensen le permitieron regresar pronto a la cima. Sørensen fue vendido al Atalanta en 1949, y en 1951 el OB ganó sus primeras medallas, de plata, tras el Akademisk Boldklub.
Siguió un largo declive. El OB descendió en 1955 y, pese a los ascensos de 1957 y 1966, no se estabilizó en la máxima categoría hasta 1975. El rival local B 1909 ganó el campeonato danés en 1959 y 1964, y esa rivalidad produjo el récord de asistencia del club en casa, 28.000 espectadores en un partido de segunda división en 1973. En 1968 el club se trasladó a Ådalen, junto al río Odense, donde sigue entrenando, y en 1974 jugó su primera final de la Copa de Dinamarca, perdida 2-5 ante el Vanløse.
La edad de oro está ligada al entrenador Richard Møller Nielsen, que asumió en 1975, más tarde fue seleccionador de Dinamarca y la llevó al título europeo de 1992. Con el centrocampista Allan Hansen, dos veces Jugador del Año en Dinamarca (1977 y 1981), el OB ganó el campeonato danés en 1977 y 1982, y en 1983 añadió la copa para lograr su único doblete. El portero Lars Høgh disputó un récord del club de 817 partidos entre 1977 y 2000. El tercer título llegó en 1989 con Roald Poulsen, por delante del vigente campeón Brøndby. El OB también ha ganado cinco veces la Copa de Dinamarca, en 1983, 1991, 1993, 2002 y 2007. La final de 1991 contra el AaB, jugada en Odense porque el estadio nacional estaba en reconstrucción, se decidió en los penaltis tras dos partidos sin goles y una prórroga. El primer título trajo también el primer partido europeo, en la Copa de Europa de 1978, que terminó con una derrota en la primera ronda ante el Lokomotiv Sofía.
El mayor resultado europeo del club se conoce en Dinamarca como el Milagro de Madrid. En la Copa de la UEFA 1994-95, el OB venció al Flora Tallin por 3-0 y 3-0, al Linfield por 1-1 y 5-0 y superó al Kaiserslautern por el valor doble de los goles fuera de casa tras empates 1-1 y 0-0, de modo que por primera vez pasó de la primera ronda de una competición europea. El sorteo de la cuarta ronda deparó al Real Madrid, el equipo de Michael Laudrup. El OB perdió la ida 2-3 en casa y por eso necesitaba ganar por dos goles en España. Ulrik Pedersen adelantó a los daneses, Høgh impidió que los españoles marcaran y Morten Bisgaard anotó el segundo gol poco antes del tiempo añadido, dando al OB una victoria global por 4-3. Los comentaristas señalaron que era una historia que ni siquiera Hans Christian Andersen, nacido en Odense, habría podido imaginar. En cuartos de final el Parma ganó 1-0 fuera tras un penalti cometido por Steen Nedergaard, y la vuelta en Odense terminó 0-0.
Desde entonces el club ha vivido bruscas oscilaciones. Descendió en 1998, volvió un año después como campeón de segunda y, en la Superliga, terminó segundo en 2008-09 y 2009-10. La venta del delantero Per Pedersen al Blackburn Rovers por 2,3 millones de libras en 1997 sigue siendo el récord del club. En 2023-24 el OB descendió por primera vez en 26 años, pero ganó la 1. Division la temporada siguiente y volvió a la Superliga, terminando 2025-26 en octava posición bajo el entrenador alemán Alexander Zorniger. Los aficionados conocen al equipo como De Stribede, Los Rayados, y su casa es el estadio de Ådalen.