Baruch uczęszczał do szkół publicznych w Nowym Jorku i w 1889 roku ukończył City College of New York. W 1891 roku podjął pracę na Wall Street w firmie brokerskiej , szybko odnosząc sukces jako inwestor – w 1896 roku został młodszym partnerem w firmie. W 1897 roku ożenił się z Annie Griffen, z którą miał troje dzieci. W 1903 roku kupił miejsce na New York Stock Exchange i otworzył własną firmę brokerską. Zajął się spekulacjami na rynkach siarczanu miedzi, złota, gumy, wolframu i cynku. Został milionerem przed ukończeniem 30. roku życia. W 1905 roku zakupił posiadłość w Karolinie Południowej, gdzie podejmował polityków.
Był członkiem Partii Demokratycznej. Wspierał Woodrowa Wilsona (1856–1924), z którym się przyjaźnił, m.in. poprzez finansowanie jego kampanii prezydenckiej.
Podczas trwającej w Europie wojny, w 1915 roku zaangażował się w ruch przygotowań Stanów Zjednoczonych do wojny. Prezydent Wilson mianował go członkiem Komisji Doradczej (ang. Council of National Defense, CND). Po nominacji Baruch zlikwidował wszystkie swoja aktywa, sprzedał swoje miejsce w New York Stock Exchange i zakupił za wielomilionową kwotę.