Jego orkiestra grała przede wszystkim do tańca, wykonując zarówno repertuar dixielandowy, jak lekkie utwory muzyki klasycznej. Do 1917 był to zespół złożony wyłącznie z białych muzyków. Wtedy sformował Kentucky Jazz Band z Armstrongiem, który tworzyli tylko czarnoskórzy instrumentaliści. W latach 1921–1922 jego formacja w powszechnej opinii uchodziła za najlepszą orkiestrę taneczna w Stanach Zjednoczonych. Odchodzący z niej muzycy zasilali później zespoły takich bandliderówj jak Joe „King” Oliver, Cab Calloway, Fats Waller, Jimmie Lunceford, Chick Webb, Count Basie, Benny Goodman i Duke Ellington.

W latach 30. XX wieku zszedł na ląd i osiadł w Saint Louis. Nadal prowadził orkiestry aż do 1940, kiedy to doznał poważnego urazu palca. Po kilku latach powrócił do gry na fortepianie, ale występował już tylko z małymi zespołami.

Mając 56 lat, zmarł w Saint Louis na zapalenie płuc. Został pochowany w rodzinnym Paducah na tamtejszym cmentarzu Oak Grove.