W październiku 2009 roku na Camp Nou Rubin Kazań zrobił to, czego nie oczekiwał od niego nikt poza Tatarstanem: pokonał FC Barcelonę, obrońcę trofeum Ligi Mistrzów, 2:1. Gole strzelili Aleksandr Riazancew i Gökdeniz Karadeniz, a defensywa na tyle skutecznie zneutralizowała Lionela Messiego i Andrésa Iniestę, że zespół z Wołgi odniósł pierwsze zwycięstwo w historii klubu w najważniejszych europejskich rozgrywkach. Rubin został wtedy najbardziej wysuniętym na wschód klubem, jaki grał w fazie grupowej Ligi Mistrzów, a rosyjska prasa nazwała Barcelonę „bronią atomową współczesnego futbolu”, którą pokonał skromny zespół z prowincji.
Największy sukces poprzedziła długa droga. Klub został założony 20 kwietnia 1958 roku jako Iskra, taką nazwę nosił do 1964 roku, a w latach 1992–1993 występował jako Rubin-TAN. Nigdy nie grał w radzieckiej ekstraklasie. W 1992 roku dołączył do rosyjskiej pierwszej ligi, w 1994 roku spadł do drugiej, a w 1997 roku wygrał jej rozgrywki i wrócił. Do Premier Ligi awansował po zwycięstwie w pierwszej lidze w 2002 roku, a w debiucie w 2003 roku zajął trzecie miejsce, co dało mu start w Pucharze UEFA. Od tego czasu przez lata nie opuszczał najwyższej klasy rozgrywkowej.
Złotą erę klubu wiąże się z trenerem Kurbanem Berdyjewem. Pod jego kierunkiem Rubin w 2008 roku po raz pierwszy w historii został mistrzem Rosji, a w 2009 roku obronił tytuł. Pozycja w kraju, w którym przez lata wygrywali kluby z Moskwy i Petersburga, była wyjątkowa: Rubin stał się głównym rywalem stołecznego monopolu. Wśród liderów zespołu byli m.in. Argentyńczyk Alejandro Domínguez, najlepszy strzelec sezonu 2009, oraz Roman Szaronow, który w meczu z Barceloną występował w obronie.
W Lidze Mistrzów 2009/10 zespół trafił do grupy z Barceloną, Interem Mediolan i Dynamem Kijów. Debiut w rozgrywkach przyniósł remis 1:1 z Interem, mistrzem Włoch, w Kazaniu, a następnie wyjazdowe zwycięstwo na Camp Nou. Zespół zakończył fazę grupową na trzecim miejscu i awansował do 1/16 finału Ligi Europy. Sukcesy krajowe uzupełniły puchary: w 2012 roku Rubin wygrał Puchar Rosji, a w 2010 i 2012 roku zdobywał Superpuchar Rosji.
Historycznym domem klubu był Stadion Centralny, otwarty w 1960 roku. Pierwszy mecz rozegrała na nim Iskra 21 sierpnia 1960 roku, wygrywając 2:1 z Metałłurgiem z Kamieńska Uralskiego. Dziś Rubin gra na Kazan Arena, nowoczesnym obiekcie na około 45 tysięcy widzów, zbudowanym za 292 miliony euro i nawiązującym do lokalnej kultury, a także goszczącym mecze Mistrzostw Świata 2018. Wokół klubu powstała silna regionalna tożsamość: zespół nazywany jest Wołżanami (ludźmi znad Wołgi), Kamniami (Kamieniami) oraz Krasno-Zielonymi od barw czerwono-zielonych, a sama nazwa oznacza rubin.
Od debiutu w 2003 roku Rubin Kazań pozostaje stałym uczestnikiem rosyjskiej Premier Ligi i jednym z najbardziej znanych klubów kraju poza Moskwą i Petersburgiem. Jego historia to opowieść o małym zespole z drugiej ligi, który w ciągu kilku lat został mistrzem kraju i zagrał z najlepszymi w Europie. Zwycięstwo na Camp Nou do dziś pozostaje najważniejszym wydarzeniem w dziejach klubu.