Wiosną 1941 wyjechał do Moskwy, gdzie ukończył szkołę wywiadowczą NKWD.
Po ataku III Rzeszy na Związek Radziecki został oficerem Samodzielnej Brygady Strzelców Zmotoryzowanych Specjalnego Przeznaczenia, podporządkowanej IV Zarządowi NKWD (od 1943 przeformowana w dywizję, wraz z IV Zarządem podporządkowano ją NKGB). W listopadzie na czele grupy zwiadowczo-dywersyjnej został przerzucony na tyły frontu. Następnie uczestniczył w walkach obronnych pod Moskwą. Od 1942 działał na okupowanych terenach zachodniej Ukrainy i Białorusi. Prowadził działania wywiadowczo-dywersyjne samodzielnie lub w składzie oddziałów partyzanckich. W 1943 objął funkcję zastępcy ds. wywiadu dowódcy oddziału partyzanckiego mjr. Wiktora A. Karasiowa walczącego min. na Żytomierszczyźnie. Przyjął pseudonim „Alosza”. Na początku września tego roku dowodził akcją wysadzenia niemieckiego komisariatu w Owruczu, za co przedstawiono go do nagrodzenia tytułem Bohatera Związku Radzieckiego.