College Rondo występował w drużynie Kentucky Wildcats, która sceptycznie podchodziła do talentu młodego zawodnika, gdzie wyżej notowany był Sebastian Telfair. Rondo, wraz z All-Americans Joe Crawford i Randolph Morris, dał Kentucky najwyższej klasę rekrutacji na rok 2004. Rondo doprowadził Kentucky do kilku zwycięstw – nad Uniwersytetem w Louisville, w stanie Karolina Południowa i Central Florida, ale Kentucky nie awansowało do Final Four w NCAA Tournament. Później został wybrany do All-SEC Freshmen Team. Pierwszy rok Rajona w Kentucky wypadł rewelacyjnie, między innymi pobił rekord liczby przechwytów w sezonie- 87. Ukończył pierwszego roku studiów w Kentucky średnio 8,1 punktów, 2,9 zbiórek, 3,5 asyst i 2,6 przechwytów.
Drugi rok także był bardzo udany. Już na samym jego początku w meczu przeciwko drużynie z Ole Miss zdobył 12 asyst w zaledwie 23 minuty gry, a w następnym meczu z Lousiville zanotował 25 punktów. Średnio 11,2 punktów, 6,1 zbiórek, 4,9 asyst i 2,1 przechwytów na mecz Rondo zanotował w swoim drugim roku. Został w tym czasie powołany do U-21 w 2005. USA Men's World Championship Team, który wyjechał do Argentyny na FIBA World Championships. Na turnieju zanotował średnio 11,0 punktów na mecz. Zwracał coraz większą uwagę skautów NBA.