UD Las Palmas powstał 22 sierpnia 1949 roku z połączenia wszystkich pięciu najważniejszych klubów miasta: CD Gran Canaria, Atlético Club, Real Club Victoria, Arenas Club i Marino FC. Rozmowy trwały od lutego 1949 roku, a decydujący impuls dała zgoda hiszpańskiej federacji na włączenie do rozgrywek krajowych mistrzostw Wysp Kanaryjskich, czyli 6 czerwca 1949 roku. Odrzucono wcześniejszy pomysł nazwy Deportivo Canarias, bo odnosiła się do całego archipelagu, a nie do wyspy Gran Canaria. Pierwszy trening nowego klubu odbył się 16 września 1949 roku, a pierwszy mecz 9 października na stadionie Insular, przeciwko Marino FC, które rozgrywało wtedy ostatnie zawodowe spotkanie w swojej historii. Insular otwarto w 1944 roku jako dom właśnie Marino.
Klub od początku piął się szybko. W pierwszym sezonie, 1949/50, zajął drugie miejsce w Tercera División i awansował do Segunda División, a rok później, po trzecim miejscu w Segunda, awansował do La Liga. Był to pierwszy w Hiszpanii klub, który awansował w obu pierwszych latach istnienia. Przydomek zespołu to Los Amarillos (Żółci), a barwy żółto-niebieskie.
Złota era klubu zaczęła się po powrocie do La Liga w czerwcu 1963 roku. W sezonie 1967/68 Las Palmas zajęło trzecie miejsce z 38 punktami, a w sezonie 1968/69 drugie, ustępując tylko Realowi Madryt, który wyprzedził go o dziewięć punktów. Najlepszym strzelcem tamtej drużyny był José Manuel León, autor 11 goli, a do legend klubu zalicza się też Germána Dévorę, Juana Guedesa, Tonono, Paco Castellano i Gilberto I. W sezonie 1971/72 klub był piąty i znów zagrał w europejskich pucharach.
Druga pozycja w lidze dała Las Palmas zaproszenie do Pucharu Miast Targowych 1969/70, który był jego pierwszym startem w Europie. W pierwszej rundzie klub zmierzył się z Herthą BSC i odpadł po wynikach 0:0 i 0:1. W Pucharze UEFA wystąpił po raz pierwszy w sezonie 1972/73, a ostatni raz w sezonie 1977/78, i łącznie rozegrał w tych rozgrywkach 10 meczów: cztery wygrane, dwa remisy i cztery porażki, przy bilansie bramek 20:16.
Największy pucharowy sukces przyszedł w sezonie 1977/78. Las Palmas dotarło do finału Pucharu Króla, w którym uległo FC Barcelonie na Santiago Bernabéu w Madrycie. Jest to do dziś jedyny finał klubu w tych rozgrywkach, a razem z wicemistrzostwem z 1969 roku oba wyniki pozostają największymi osiągnięciami w jego historii.
Po latach sukcesów przyszedł długi okres kryzysu. W sezonie 1991/92 klub spadł do Segunda División B, czyli na trzeci poziom rozgrywek, po raz pierwszy w swojej historii. Tamten spadek uchodzi za jeden z najgorszych momentów w historii klubu. Stadion Insular zastąpił Estadio Gran Canaria, otwarty w 2003 roku, który dziś jest domem klubu.
Las Palmas spędziło w La Liga ponad trzy dekady i według ekspertów jest najbardziej reprezentatywnym klubem Wysp Kanaryjskich w hiszpańskim futbolu. Jego historia, od połączenia pięciu miejscowych klubów, przez wicemistrzostwo z 1969 roku, po finał Pucharu Króla w 1978 roku, pokazuje, że drużyna z wyspy oddalonej od hiszpańskich centrów futbolu potrafiła rywalizować z największymi.