W 1978 ponownie wyjechał do pracy zagranicznej, tym razem w USA; zajmował się pracą duszpasterską w polskiej parafii w Manville (stan New Jersey) oraz przygotowywał habilitację (na przeszkodzie dalszej pracy naukowej stanął jednak stan zdrowia, w tym przebyty zawał serca). W 1981 zastąpił ks. Franciszka Cegiełkę w obowiązkach rektora domu pallotyńskiego w North Tonawanda i delegata prowincjała na terytorium USA. Zmarł w lutym 1983 w North Tonawanda, pochowany został w Manville.
Bibliografia artykułów ks. Parzyszka liczy 23 pozycje, z czego większość ogłosił na łamach seminaryjnego pisma „Nasz Prąd” (m.in. Maryjna liturgia Adwentu, nr 3, 1958; Krótka historia X Kapituły Generalnej, nr 2, 1958; Niepokalana w literaturze współczesnej, nr 5, 1959; Polskie kolędy, nr 6, 1959; Człowiek w planie Bożym, nr 5, 1960; Dookoła Warmii i Mazur, nr 1, 1960; Kapłaństwo w świetle nauki św. Tomasza, nr 12, 1961; Świeccy w Kościele, nr 1, 1962; Wokół liturgii, nr 10, 1962). Kilka artykułów opublikował w piśmie „Collectanea Theologica” (Konsultacja światowego laikatu w świetle oficjalnej dokumentacji, nr 3, 1977; W kierunku chrześcijańskiego życia wspólnotowego, nr 4, 1978).