W latach 20. XX wieku podjęto dwie nieudane próby odbudowy gospodarstwa Ruchama. W końcu ziemię odkupił Żydowski Fundusz Narodowy. W 1936 do Mandatu Palestyny przyjechała grupa żydowskich imigrantów z Polski i Rumunii. Byli to członkowie syjonistycznej organizacji młodzieżowej Ha-Szomer Ha-Cair, którzy utworzyli brygadę robotniczą o nazwie „Kibbutz Ariel”. Przez jakiś czas mieszkali w Kirjat Haim (obecnie dzielnica miasta Hajfa) i pracowali w porcie Hajfy. W 1943 złożono im propozycję utworzenia kibucu na miejscu opuszczonego gospodarstwa rolnego Ruchama. Jeszcze tego samego roku grupa składająca się z sześciu mężczyzn i jednej kobiety przyjechała w to miejsce. Cały teren został ogrodzony i rozpoczęto prace porządkowe. W marcu 1944 w kibucu na stałe zamieszkali pierwsi mieszkańcy.
W 1946 do kibucu dotarła kolejna grupa imigrantów z Polski. W 1947 przybyła grupa młodych ludzi, którzy podczas II wojny światowej ukrywali się w Szwajcarii. W dniu 28 sierpnia 1947 brytyjska policja mandatowa wkroczyła do kibuców Ruchama i Dorot. Przez pięć kolejnych dni policjanci bezskutecznie poszukiwali ukrytej broni żydowskich organizacji paramilitarnych. Podczas I wojny izraelsko-arabskiej w maju 1948 kibuc został odcięty przez wojska egipskie i do końca wojny znajdował się w całkowitej izolacji.