El Norwich City no nació de un gran capital, sino de la iniciativa de dos maestros de escuela que jugaban en el equipo amateur CEYMS. El 17 de junio de 1902 convocaron una reunión en el Criterion Café de Norwich, en la que se fundó el club. Disputó su primer partido oficial el 6 de septiembre de 1902 ante el Harwich & Parkeston en Newmarket Road, y ya en 1905 la Football Association lo expulsó del fútbol amateur al considerarlo una organización profesional. El club quebró y fue refundado en 1917. Para una ciudad alejada de los grandes centros fue el comienzo de un largo camino en el que los aficionados siempre han sentido que representan a Anglia Oriental frente al mundo.
Los colores del club, amarillo y verde, y su apodo, los «Canaries» (canarios), están ligados a la historia de la ciudad: se dice que los canarios llegaron a Norwich en el siglo XVI. A la misma tradición pertenece la canción «On the Ball, City», considerada la canción de fútbol más antigua del mundo y escrita probablemente en la década de 1890. Los aficionados la cantan hasta hoy y es uno de los rituales de club más antiguos del fútbol inglés.
El primer gran momento de la historia del club fue la temporada 1958/59, cuando el Norwich, entonces en tercera división, alcanzó las semifinales de la Copa de Inglaterra. En 1962, bajo la dirección de Ron Ashman, ganó su primer trofeo, la Copa de la Liga, al vencer al Rochdale en la doble final. En 1972 el club ascendió por primera vez a la máxima categoría, y en 1985 volvió a ganar la Copa de la Liga al derrotar al Sunderland por 1-0 en Wembley. El camino hacia esa final pasó por una semifinal a doble partido contra el rival local, el Ipswich Town, decidida por un gol de Steve Bruce. A pesar de ese éxito, el Norwich descendió en la misma temporada, el primer club inglés que ganó un trofeo importante y bajó de categoría en el mismo año. Como campeón de segunda división, el club ganó el título en 1971/72, 1985/86 y 2003/04.
El mayor capítulo de su historia europea se escribió en 1993/94. Un año antes, en la primera temporada de la Premier League, el Norwich de Mike Walker había peleado largo tiempo por el título y terminó tercero, lo que le dio plaza en la Copa de la UEFA. En la tercera ronda de esa competición el club se enfrentó al Bayern de Múnich. El 20 de octubre de 1993 en Múnich, el Norwich ganó 2-1 con goles de Jeremy Goss, cuya volea se considera el mejor gol de la historia del club, y de Mark Bowen. Bryan Gunn estuvo magnífico bajo palos. El Norwich se convirtió en el primer club inglés que derrotó al Bayern en el Estadio Olímpico. En la vuelta empató 1-1 en Carrow Road, pero en la ronda siguiente cayó ante el Inter de Milán, que ganó gracias a dos goles de Dennis Bergkamp. Es la única participación del Norwich en competiciones europeas.
La historia del club la han escrito también jugadores cuyos nombres aún se pronuncian en Norfolk: Kevin Keelan, que disputó 660 partidos entre 1963 y 1980 y es el jugador con más apariciones, y Johnny Gavin, máximo goleador histórico con 132 goles. En los años noventa también fue clave la propiedad: durante una crisis, la cocinera de televisión Delia Smith y su marido Michael Wynn-Jones se convirtieron en copropietarios. En 2024 el empresario estadounidense Mark Attanasio pasó a ser el accionista mayoritario.
Para los aficionados, la rivalidad más importante sigue siendo la que mantienen con el Ipswich Town, al que el Norwich se enfrenta en el derbi de Anglia Oriental desde los primeros tiempos del club.
La casa del club es Carrow Road, donde el equipo juega desde 1935 y que tiene capacidad para unos 27 000 espectadores. El récord de asistencia, 43 984 personas, se registró en un partido de la Copa de Inglaterra contra el Leicester City en 1962/63. Es aquí, entre bufandas amarillas y verdes, donde se sigue contando esta historia de Anglia Oriental: la de un club fundado por dos maestros que logró vencer al Bayern en Múnich.