Podczas 15 sezonów pracy Williamsa, w Jayhawks występowali między innymi Greg Ostertag, Scot Pollard, Jacque Vaughn, Raef LaFrentz, Paul Pierce, Drew Gooden, Nick Collison i Kirk Hinrich.
Dziesięć dni po meczu o mistrzostwo NCAA pomiędzy Kansas a Syracuse, 14 kwietnia 2003 Williams został trenerem North Carolina Tar Heels. W 2005 poprowadził zespół do pierwszego od 13 lat triumfu w finale Final Four, w którym Tar Heels pokonali Illinois Fighting Illini 75:70. W sezonie 2007/2008 Tar Heels osiągnęli najlepszy bilans w historii uczelni (36–3 w sezonie regularnym, 14–2 w konferencji ACC) i dotarli do fazy Final Four, przegrywając w półfinale z Kansas Jayhawks 66:84. W 2009 Williams zdobył drugie mistrzostwo NCAA z Tar Heels. W finale pokonali Michigan State Spartans 89:72. Zawodnicy reprezentujący wówczas barwy Tar Heels, którzy zagrali w późniejszym okresie w NBA to między innymi Sean May, Tyler Hansbrough, Raymond Felton, Ty Lawson, Kendall Marshall, Marvin Williams, Brandan Wright, Harrison Barnes i Wayne Ellington.