żołnierzy brytyjskich i francuskich.
W 1941 podczas inwazji na Bałkany stał na czele 1 Grupy Pancernej, która walczyła w Jugosławii i Grecji.
Podczas inwazji na Związek Radziecki w 1941 roku Kleist kierował działaniami 1 Armii Pancernej wchodzącej w skład GA Południe. Wykonała ona rajd z Lubelszczyzny nad Morze Azowskie, odcinając pięć radzieckich korpusów zmechanizowanych.
W 1942 roku stanął na czele Grupy Armii A, która prowadziła ofensywę na Kaukazie. W 1943 roku, po katastrofie stalingradzkiej kierował udanym odwrotem czterech niemieckich armii z Kaukazu i Kubania. Został wtedy mianowany feldmarszałkiem, będąc jedynym niemieckim oficerem awansowanym na ten stopień za działania defensywne.
30 marca 1944 von Kleist został odwołany ze stanowiska dowódcy Grupy Armii A, gdy wbrew wyraźnemu rozkazowi Hitlera wycofał podlegające mu wojska z zajmowanych pozycji, by uniknąć okrążenia.
W 1945 roku Kleist został aresztowany przez wojska USA i przekazany władzom Jugosławii. Tam w 1946 roku został oskarżony o zbrodnie, których dokonał w trakcie kampanii bałkańskiej i skazany na 15 lat pozbawienia wolności. Następnie został przekazany ZSRR, gdzie został skazany na 25 lat pozbawienia wolności. Zmarł w 1954 roku w więzieniu we Włodzimierzu.