Zespół zaczynał karierę jako support Metallica i Manowar. W 1983 nagrał materiał demo, który trafił do Jona Zazuli, właściciela niezależnej wytwórni Megaforce Records i wydawcy debiutanckiej płyty Metalliki. We wrześniu 1983 zespół wydał singiel „Soldiers of Metal”. Wkrótce potem do zespołu dołączył Dan Spitz (gitara, wcześniej grał w Overkill), w związku z tym Dan Lilker zmienił instrument na gitarę basową. Do studia pod koniec 1983 weszli: Ian, Lilker, Turbin, Spitz i Benante, a w styczniu 1984 wydał album pt. Fistful of Metal. Anthrax dopiero kształtował własne brzmienie jednak płyta zebrała pochlebne opinie (oprócz okładki uznawanej wtedy za niesmaczną) i sprzedawała się dobrze. Grupa odbyła wspólną trasę koncertową z Metalliką i Raven.
W Anthraksie następowały jednak kolejne zmiany (odszedł Dan Lilker a Neil Turbin został wyrzucony) i nagranie w 1985 maksisingla Armed and Dangerous odbyło się z Mattem Fallonem (gitara basowa) i Joey Belladoną (śpiew). Płyta zawierała m.in. cover zespołu Sex Pistols „God Save the Queen”.