Po 1956 nazwę zmieniono na Gwardyjski Klub Sportowy Błękitni Kielce. Po likwidacji UB, pod koniec 1954, zespół, podobnie jak wszystkie jednostki organizacyjne Milicji Obywatelskiej, znalazł się w strukturach Ministerstwa Spraw Wewnętrznych. W tych latach drużyna osiągnęła też największy w swojej historii sukces – zagrała w ćwierćfinale Pucharu Polski w sezonie 1953/1954, w którym nie sprostała Legii Warszawa i przegrała 0:7. Od 1955 przez ponad 20 lat klub nie osiągnął większych sukcesów i ani razu nie grał w II lidze. Ponowny awans osiągnął dopiero w sezonie 1977/1978, zaś w latach 80. balansował pomiędzy II a III ligą. W sezonie 1990/1991 wzmocniono kadrowo zespół, który występował w szeregach trzecioligowców, walcząc jednak bez efektu o promocję do drugiej ligi. Obradujący w czerwcu 1991 nadzwyczajny zjazd Polskiego Związku Piłki Nożnej podjął decyzję o powiększeniu zaplecza najwyższej klasy rozgrywek do dwóch grup po 18 drużyn. Skorzystali na tym Błękitni, którzy jako wicemistrzowie makroregionu lubelsko-kieleckiego znaleźli się w gronie drugoligowców, rywalizując z nimi do 1995. 24 listopada 1998 zespół został odznaczony przez Polski Związek Piłki Nożnej "Srebrną Odznaką Honorową PZPN". Ostatnie mecze klub rozegrał w sezonie 1999/2000 w III lidze w grupie południowo–wschodniej.