Po napaści Niemiec na ZSRR, od czerwca 1941, brał udział w walkach nad Prutem i wkrótce nad Dniestrem (m.in. w rejonie Dubosar), 9 września 1941 objął dowództwo 333 Dywizji Piechoty Północnokaukaskiego Okręgu Wojskowego. Od stycznia 1942 uczestniczył z dywizją w walkach na Froncie Południowym, w kwietniu 1942 został szefem sztabu 5 Korpusu Kawalerii na Froncie Południowym i Południowo-Zachodnim, brał udział w walkach w Donbasie, 22 czerwca 1942 został ciężko ranny. W sierpniu 1942 objął dowództwo 300 Dywizji Piechoty Południowouralskiego Okręgu Wojskowego, w październiku 1942 został wraz z nią skierowany na Front Stalingradzki, walczył w bitwie pod Stalingradem, od kwietnia 1943 dowodził 18 Gwardyjskim Korpusem Piechoty 13 Armii Frontu Centralnego/1 Frontu Ukraińskiego.
Brał udział w bitwie pod Kurskiem, forsowaniu Dniepru, walkach w rejonie na północ od Kijowa, walkach na Ukrainie Prawobrzeżnej i walkach w Karpatach, m.in. w operacji żytomiersko-berdyczowskiej, rówieńsko-łuckiej, proskurowsko-czerniowieckiej, lwowsko-sandomierskiej, wschodniokarpackiej, karpacko-użhorodzkiej i budapesztańskiej. Dowodzony przez niego korpus wyróżnił się w walkach o Budapeszt w styczniu 1945. 24 stycznia 1945 I.