Po wybuchu II wojny światowej został naczelnym dowódcą Gwardii Obrony Narodowej wchodzącej w skład Konfederacji Narodu. W kwietniu 1940 Gwardia Obrony Narodowej weszła w skład Związku Czynu Zbrojnego, a ta z kolei w październiku dołączyła do Konfederacji Zbrojnej. Józef Pater używał pseudonimu "„Orlot”", 15 lutego 1941 został wraz z żoną aresztowany i uwięziony na Pawiaku. Podczas przebywania w lazarecie Zygmunt Śliwicki i Franciszek Znamirowski dali mu możliwość ucieczki, z której nie skorzystał w obawie, że jego żona stanie się ofiarą zemsty straży więziennej. W transporcie więźniów w dniu 17 kwietnia 1942 został przewieziony do Auschwitz, otrzymał numer 31225 i został zarejestrowany jako polski więzień polityczny. Zmarł 24 czerwca 1942.

Za swoją działalność polityczną został odznaczony Krzyżem Niepodległości z Mieczami oraz za czyny bojowe czterokrotnie Krzyżem Walecznych.

Bibliografia Wacława Milewska, Maria Zientara "Sztuka Legionów Polskich i jej twórcy, 1914-1918" Wydawnictwo Arkady 1999

Linki zewnętrzne Donna Pointkouski „His Name was Józef Pater”, Whta's Past is Prologue