«Жилина» была основана 20 июня 1908 года как «Зсолнаи Тестдьякорлок Кёре» — Клуб спортсменов Жилины, под венгерским названием города, который сегодня находится на севере Словакии. Нынешнее название она носит с 1995 года, а её болельщики известны как «шошоны из Жилины» — одно из самых необычных прозвищ в европейском футболе. Большую часть XX века клуб был региональной командой с редкими кубковыми успехами, например финалом Кубка Словакии 1985/86, который проиграл 0:1 «Спартаку» из Трнавы.
Современный клуб был построен после обретения Словакией независимости. «Жилина» семь раз выигрывала чемпионат Словакии — в сезонах 2001/02, 2002/03, 2003/04, 2006/07, 2009/10, 2011/12 и 2016/17, что ставит её на второе место в вечной таблице словацкого чемпионата. Марек Минтал был лучшим бомбардиром чемпионата с 20 голами в сезоне 2002/03, а в 2008/09 году, в год столетия, клуб дошёл до группового этапа Кубка УЕФА, где попал в одну группу с «Аяксом», «Астон Виллой», пражской «Славией» и «Гамбургом». В тот же период был реконструирован «Штадион под Дубнём» — её домашний стадион в районе Дубень — в 2006–2009 годах.
Самый драматичный сезон последовал за титулом 2009/10, завоёванным под руководством тренера Павла Хапала. В Лиге чемпионов 2010/11 «Жилина» выбила «Литекс» (Ловеч) по сумме двух матчей 4:2, а затем пражскую «Спарту» 3:0 (2:0 в гостях, 1:0 дома) в раунде плей-офф, что впервые привело клуб к групповому этапу. Она попала в группу F с «Челси», «Олимпиком» из Марселя и «Спартаком» Москва, а в стартовом составе играл вратарь Мартин Дубравка. Кампания закончилась шестью поражениями и разницей мячей 3–19: 1:4 дома от «Челси», 0:3 в Москве, 0:1 в Марселе, 0:7 дома от «Марселя» 3 ноября 2010 года, 1:2 на «Стэмфорд Бридж» и 1:2 дома от «Спартака». Поражение 0:7 остаётся самым крупным в истории клуба в еврокубках, а «Жилина» и «Партизан» стали лишь одиннадцатой и двенадцатой командой в истории турнира, проигравшей все шесть матчей группового этапа.
Золотой период словацкого клубного футбола в Жилине продолжился в сезоне 2011/12, когда клуб выиграл чемпионат и Кубок Словакии в одном сезоне. Финал кубка против «Сеницы» в Бардеёве закончился 3:2 после дополнительного времени и стал первой из двух побед клуба в Кубке Словакии. Чемпионский титул 2016/17 стал последним перед долгим периодом без трофеев, в течение которого «Жилина» была вице-чемпионом в сезонах 2019/20 и 2024/25.
Нынешняя глава началась в сезоне 2025/26. «Жилина» во второй раз выиграла Кубок Словакии, обыграв «Кошице» 3:1 в финале, сыгранном на собственном стадионе, «Штадион под Дубнём», при 9723 зрителях. Это был первый кубок клуба с 2012 года и первый трофей с чемпионского титула 2016/17, и он принёс возвращение в еврокубки в сезоне 2026/27. Для клуба, самый известный европейский вечер которого закончился со счётом 0:7, кубок 2026 года подарил болельщикам воспоминание иного рода на новый сезон.