Mimo tego rozegrał w całym sezonie 22 mecze w barwach Newcastle. Sezon 2005/2006 również nie oszczędził Taylorowi cierpienia z powodu kontuzji, która dała znać o sobie w listopadzie. Poważny problem z ramieniem wykluczył go z ogromnej części sezonu, bo na boisko powrócił dopiero w meczu pożegnalnym Alana Shearera 11 maja 2006 roku. Problemy zdrowotne przerwały okres jego najszybszego rozwoju, jako że szybko zapracował sobie na miejsce w drużynie Graeme’a Sounessa i swoją grą często zawstydzał starszych kolegów z formacji defensywnej.
W dniu 10 lipca 2018 przedstawiciele Wellington Phoenix ogłosili podpisanie z zawodnikiem rocznej umowy z możliwością przedłużenia kontraktu o kolejny sezon. Taylor został pierwszym transferem nowozelandzkiego zespołu przed rozpoczęciem czternastej edycji A-League.
Reprezentacja W 2001 roku bronił barw reprezentacji Anglii do lat 16 w turnieju międzynarodowym. Został jego najlepszym zawodnikiem. Na arenie międzynarodowej odnosił wiele sukcesów grając w reprezentacji Anglii U-17. Na debiut na ostatnim poziomie młodzieżowej piłki, czyli w drużynie do lat 21, czekał do lutego 2004 roku.