W 1966 dołączył do zespołu Spoken Word, a następnie – wraz z Banksem i Anthonym Phillipsem założył grupę The Garden Wall, której skład uzupełnił perkusista Chris Stewart.
Tony i Peter zaczęli komponować, a ich pierwszym wspólnym dziełem był utwór „She Is Beautiful” (później przemianowany na „The Serpent” i pod tą nazwą umieszczony na debiutancki albumie Genesis). Do składu The Garden Wall wkrótce dołączył Mike Rutherford, po czym zespół zarejestrował demo składające się z sześciu utworów. Rozpoczęli też współpracę z producentem Jonathanem Kingiem, który zaproponował im zmianę nazwy zespołu na Genesis.
Genesis thumb|Gabriel (1974) mały|Gabriel (2010) Jako wokalista Genesis nagrał z zespołem sześć albumów. Po wydaniu drugiej płyty Trespass doszło do zmian w składzie zespołu, Gabriel stał się głównym autorem tekstów, często w formie dość rozbudowanych historii (jak np. w utworze „The Musical Box” z albumu pt. Nursery Cryme).