Sheffield United to klub, który narodził się z krykieta. 22 marca 1889 roku w hotelu Adelphi w Sheffield, w miejscu, gdzie dziś stoi Teatr Crucible, Sir Charles Clegg, prezes Sheffield United Cricket Club, założył drużynę piłkarską. Powód był praktyczny: The Wednesday przeniosła się z Bramall Lane na własny obiekt Olive Grove po sporze o wpływy z biletów, a dzierżawcy stadionu potrzebowali nowego zespołu, który zapewni dochód w zimie. Klub był więc w zasadzie filią klubu krykietowego i pierwszym w Anglii, który miał w nazwie słowo „United”. Przydomek „The Blades”, czyli ostrza, nawiązuje do sheffieldzkiego przemysłu stalowego i sztućcowego; w latach 1889–1912 używano zresztą przezwiska „The Cutlers”.
Klub rozwijał się błyskawicznie. W 1892 roku został przyjęty do drugiej ligi, a rok później awansował do pierwszej, jako pierwszy zespół w historii, który tego dokonał. Potem spędził w najwyższej klasie nieprzerwanie 37 sezonów. Złotą erą były lata 1895–1925: United zdobył mistrzostwo Anglii w sezonie 1897/98, a wicemistrzostwo w 1896/97 i 1899/1900. Mistrzowska drużyna słynęła z postaci takich jak William „Fatty” Foulke, ciężki bramkarz, Ernest Needham i Walter Bennett. To jedyny tytuł mistrzowski w dziejach klubu.
Jeszcze większe sukcesy przyniósł Puchar Anglii, który klub wygrał czterokrotnie. W 1899 roku, dziesięć lat po założeniu, United pokonał Derby County 4:1 na Crystal Palace. Triumf powtórzył w 1902 roku, w 1915 roku pokonał Chelsea 3:0 na Old Trafford, a w 1925 roku wygrał z Cardiff City 1:0. Klub zagrał też w finałach w 1901 i 1936 roku, które przegrał. Od 1925 roku nie zdobył żadnego trofeum poza tymi związanymi z awansami. Rekord frekwencji, 68 287 widzów, padł w 1936 roku w meczu Pucharu Anglii z Leeds United, w tym samym sezonie, w którym United dotarł do finału.
Późniejsze dekady były mniej łaskawe. W 1981 roku klub spadł do czwartej ligi, z długami przekraczającymi milion funtów, ale w pierwszym sezonie na tym poziomie wygrał rozgrywki, a dwa lata później awansował na zaplecze elity. Gdy w 1992 roku rozpoczynała się Premier League, United znalazł się wśród jej założycieli, a Brian Deane strzelił w piątej minucie meczu z Manchesterem United pierwszą bramkę w historii nowych rozgrywek. Od tamtej pory klub kilkakrotnie wracał do Premier League, a w pucharach docierał do półfinałów Pucharu Anglii w 1993, 1998, 2003 i 2014 roku oraz Pucharu Ligi w 2003 i 2015 roku. Półfinał z 1993 roku zagrano na Wembley w derbach z lokalnym rywalem.
Te derby, „Steel City Derby”, z Sheffield Wednesday stanowią sedno tożsamości klubu. Sheffield jest miastem, w którym rodziły się piłkarskie tradycje: tu powstały jedne z najstarszych klubów świata, a United i Wednesday dzielą miejską scenę od końca XIX wieku. Kibice nazywają się „Blades”, a atmosfera na trybunach, w tym na stojącej tradycyjnie Kop, nadaje Bramall Lane opinię twierdzy. Do najsłynniejszych zawodników klubu należą Tony Currie i Alan Woodward.
Domem klubu jest Bramall Lane, otwarty w 1855 roku jako boisko krykietowe. Pierwszy mecz piłkarski zagrano tu w 1862 roku, między Sheffield FC a Hallam FC, czyli dwoma najstarszymi klubami świata. Z drużyną krykietową United dzielił obiekt aż do 1973 roku, a Bramall Lane, obok londyńskiego Kennington Oval, jest jedynym stadionem, który gościł mecz piłkarskiej reprezentacji Anglii, test match w krykiecie i finał Pucharu Anglii. Dziś, po przebudowach, mieści ponad 32 tysiące widzów i jest uważany za najstarszy duży stadion na świecie, na którym wciąż grają zawodowcy.