Nazwę swą góry zawdzięczają rzece Allegheny, która wypływa z ich podnóży w środkowej Pensylwanii. Znaczenie tej nazwy, która pochodzi od Indian z plemienia Lenape, nie jest do końca pewne, choć zazwyczaj tłumaczy się jako dobra/miła rzeka. Legendy Lenapów mówią o starożytnym szczepie o nazwie "Allegewi", który zamieszkiwał nad tą rzeką i został podbity przez DelawarówGeorge R. Stewart (1967), Names on the Land, Boston. Allegheny to pierwszy zapis w języku francuskim (jak na przykład Allegheny Rivière), bowiem ziemie te należały kiedyś nominalnie do Nowej Francji, zaś pierwsze zapisy w języku angielskim podają Allegany, co do dziś zachowało się w nazwach hrabstw Allegany w Marylandzie i Wirginii.
Słowa „Allegheny” używano kiedyś powszechnie w odniesieniu do całego pasma Appalachów. W pierwszym dziesięcioleciu XIX wieku wódz Mohawków John Norton nazywał tak (zapisywane różnie) góry w Tennessee i GeorgiiJohn Norton (1816), The Journal of Major John Norton (Toronto: Champlain Society, repr. 1970). W tym samym mniej więcej czasie Washington Irving proponował zmienić nazwę „United States” na „Appalachia” bądź „Alleghania”.