Po agresji niemieckiej na ZSRR dalej pełnił funkcję pomocnika dowódcy 9 Dywizji Kawalerii na Froncie Południowym. W sierpniu 1941 roku został mianowany dowódcą 9 Dywizji Kawalerii na Froncie Południowo-Zachodnim. Dywizja dowodzona przez niego we wrześniu 1941 roku została wyróżniona i przemianowany w 2 Gwardyjską Dywizję Kawalerii. Dywizją tą dowodził do czerwca 1942 roku, kiedy został skierowany do Akademii Sztabu Generalnego im. Woroszyłowa na kurs wyższych dowódców.
Po ukończeniu kursu został w listopadzie 1942 roku został mianowany zastępcą dowódcy 1 Gwardyjskiego Korpusu Kawalerii. A w grudniu 1942 roku został mianowany dowódcą 3 Gwardyjskiego Korpusu Kawalerii i korpusem tym dowodził do zakończenia II wojny światowej. W tym czasie uczestniczył w operacji rostowskiej i smoleńskiej. Następnie oprócz dowodzenia korpusem został także dowódca grupy konno-pancernej składającej się z 3 Gwardyjskiego Korpusu Kawalerii i 5 Gwardyjskiego Korpusu Pancernego.
Dowodził nią w czasie bitwy pod Kurskiem, następnie w czasie wyzwolenia Białorusi, operacji mławsko-elbląskiej, wschodniopruskiej i berlińskiej.