9 stycznia 1866 otrzymał nominację biskupią. Miał być odtąd koadiutorem z prawem następstwa swego schorowanego ordynariusza. Sukcesję przejął jeszcze zanim otrzymał sakrę, bp Fitzpatrick zmarł bowiem 13 lutego 1866 roku. Święceń biskupich udzielił mu miesiąc później abp John McCloskey. 12 lutego papież Pius IX dokonał reorganizacji struktur kościelnych w USA. Do rangi metropolii podniesiono m.in. diecezję bostońską, a bp Williams został jej pierwszym metropolitą.
Podczas długich rządów abp. Williamsa w Bostonie m.in. powołano kilka nowych diecezji w Massachusetts i Maine, powstała nowa katedra metropolitalna, a archidiecezja rozwinęła się znacznie. W roku 1891 otrzymał on do pomocy pierwszego w historii archidiecezji biskupa pomocniczego Johna Brady’ego, którego osobiście konsekrował. Od 1906 roku miał też koadiutora z prawem następstwa, którym został dotychczasowy biskup Portland William O’Connell. Brał udział w obradach Soboru Watykańskiego I, a także przyczynił się do powstania Kolegium Ameryki Płn. w Rzymie. W chwili śmierci Williamsa do archidiecezji należało 598 księży, a liczba wiernych wynosiła 850 tys.