8 мая 1974 года на стадионе «Де Кёйп» в Роттердаме «Магдебург» обыграл действующего обладателя трофея «Милан» со счётом 2:0 в финале Кубка обладателей кубков, а второй гол забил Вольфганг Зегин. Матч собрал менее 5000 зрителей, но принёс единственный европейский трофей в истории клубов ГДР. В составе «Милана» были такие мастера, как Джанни Ривера и Карл-Хайнц Шнеллингер, поэтому результат стал одним из самых неожиданных в истории турнира. До сих пор он определяет то, как клуб воспринимают в Германии и за её пределами.
Клуб был основан в декабре 1965 года на базе футбольной секции спортивного клуба «Магдебург» (SC Magdeburg), который уже в 1964 году удивил футбол ГДР победой в Кубке ГДР. С учётом этой победы и успеха 1965 года «Магдебург» семь раз выигрывал кубок ГДР (1964, 1965, 1969, 1973, 1978, 1979 и 1983), и все семь финалов завершились его победой. В Оберлиге он завоевал три чемпионских титула — в 1972, 1974 и 1975 годах. Самый успешный период связан с тренером Хайнцем Крюгелем, который руководил командой с 1966 по 1976 год, выиграл с ней три чемпионства и Кубок обладателей кубков и запомнился тем, что не позволял политике диктовать состав. При нём команда прославилась молодым, атакующим футболом.
Это поколение дало нескольких игроков сборной. Юрген Шпарвассер забил единственный гол в победном матче сборной ГДР против сборной ФРГ на чемпионате мира 1974 года, через несколько недель после финала в Роттердаме. Вольфганг Зегин провёл 19 матчей за сборную ГДР и 57 еврокубковых матчей за клуб, что остаётся рекордом, а его 219 подряд матчей в Оберлиге в 1971–1979 годах — долговечная статистическая особенность. В составе победителей в Роттердаме играли также Мартин Хоффман, Манфред Цапф и Юрген Поммеренке.
После 1989 года клуб пережил тяжёлые времена и вернулся в профессиональный футбол лишь в 2015 году, выйдя в Третью лигу. Памятный вечер пришёлся на 1 ноября 2000 года, когда «Магдебург» выбил «Баварию» во втором раунде Кубка Германии, выиграв в серии пенальти 5:3 при 26 тысячах зрителей. Первый выход во Вторую Бундеслигу состоялся в 2018 году, вылет — годом позже, а в сезоне 2021/22 клуб выиграл Третью лигу, набрав 78 очков и забив 83 гола, и вернулся в elite второго дивизиона. В сезоне 2022/23 средняя посещаемость домашних матчей составила 22 602 зрителя, а сезон 2024/25 завершился пятым местом — лучшим результатом клуба после объединения Германии. В сезоне 2025/26 «Магдебург» после восьми туров замыкал таблицу с тремя очками, но сохранил место, а сезон 2026/27 стал для него пятым подряд во Второй Бундеслиге.
Клуб играет в сине-белых цветах и входит в число самых поддерживаемых в Германии вне высшей лиги: в сезоне 2017/18 домашние матчи регулярно собирали около 18 тысяч зрителей, а на выезд ездили в среднем более тысячи болельщиков. Старый «Эрнст-Грубе-Штадион» с характерными мачтами освещения принимал чемпионские и европейские вечера 1960-х, 1970-х и 1980-х годов. После решения городских властей 2004 года его в 2006 году заменила новая арена стоимостью 31 миллион евро, а болельщики неформально связывают стадион с именем Крюгеля. «Магдебург» остаётся единственным клубом ГДР, чьё имя навсегда связано с европейским трофеем, и эта память обновляется на каждом домашнем матче.