Kiedy w 1920 Armia Czerwona zajęła Bielsk Podlaski, został członkiem Tymczasowego Komitetu Rewolucyjnego Polski. Jego zadaniem było zorganizowanie administracji władzy radzieckiej w powiecie bielskimSłownik historii Polski, Wiedza Powszechna, Warszawa 1973, s. 504, hasło „Lewartowski Józef”..
thumb|Tablica pamiątkowa na budynku (zdemontowana w czerwcu 2016) W 1921 wyjechał do Warszawy i związał się z lewym skrzydłem „Poalej Syjon”. Był współorganizatorem Żydowskiej Spółdzielni Wydawniczej „Życie”, wydającej literaturę propagandową. Współtworzył akcję połączenia z Komunistyczną Partią Robotniczą Polski. Z jej ramienia powołany został do Centralnego Biura Żydowskiego KPRP, gdzie współorganizował akcje antysyjonistyczne i antyreligijne. W kwietniu 1922 wziął udział w III Konferencji KPRP w Sopocie, a jesienią 1923 w II Zjeździe KPRP pod Moskwą. Zimą 1925 na III Zjeździe KPRP pod Moskwą został zaocznie wybrany do Komitetu Centralnego (KC) tej partii. Pod koniec 1925 aktywnie uczestniczył w IV Konferencji KPP w Moskwie.