W 1940 r. został wymieniony przez rząd Węgier (por. regent Miklós Horthy) na sztandary rewolucji węgierskiej 1848 i został deportowany do ZSRR, gdzie aresztowany przez NKWD został zesłany do łagru. Jego współwięźniem był Stanisław Swianiewicz. Do łask powrócił w trakcie wojny z III Rzeszą. Wraz z działaczami takimi jak Ernő Gerő i Imre Nagy prowadził akcję szkoleniową pośród węgierskich jeńców wojennych w ZSRR i propagandową pośród jeszcze walczących oddziałów węgierskich. Dzięki działaniom jego grupy w październiku 1944 r. na stronę radziecką wraz z grupą oficerów przeszedł generał Béla Miklós. W trakcie trwania wojny poddał krytyce umiarkowane kierownictwo partii komunistycznej na Węgrzech.
Wrócił na Węgry wraz z Armią Czerwoną. Został wyznaczony przez Józefa Stalina na sekretarza generalnego Komunistycznej Partii Węgier (a następnie Węgierskiej Partii Robotniczej), zastępując na tym stanowisku umiarkowanego Jánosa Kádára. Funkcję tę pełnił do 1956 r. W 1945 roku objął urząd wicepremiera rządu koalicyjnego. W 1947 r. doprowadził do przejęcia władzy przez komunistów na Węgrzech w trybie postępującego zamachu stanu (wolne wybory 4 listopada 1945 roku wygrała na Węgrzech niekomunistyczna ). Po przejęciu władzy rządził w sposób dyktatorski.