W 1901 miał swój debiut literacki. Napisał opowiadanie pt. Pasza Tumanow, przesiąknięte ideami głoszonymi przez Lwa Tołstoja. W kolejnych opowiadaniach (m.in. Подпрапорщик Гололобов, Кровь, Смерть Ланде) również zaznaczył się silny wpływ późnej twórczości Lwa Tołstoja. Pod wpływem wystąpień rewolucyjnych z 1905 w twórczości Arcybaszewa pojawiły się wątki katastroficzne – człowiek jest w zamyśle pisarza jednocześnie twórcą historii i jej ofiarą (m.in. opowiadania pt. На белом снегу, Кровавое пятно, Мужик и барин, В деревне, powieść pt. Человеческая волна).
W 1907 wydał pierwszą większą powieść pt. Sanin. Powieść ta wywołała żarliwe polemiki – przeciwnicy zarzucali jej aspołeczność, nieobyczajność, nadmierny hedonizm, bulwarowość, a wręcz oskarżali o „pornografię”. Zarzuty te, z dzisiejszego punktu widzenia mało zrozumiałe, odzwierciedlają nastroje społeczeństwa rosyjskiego początków XX wieku. Chodziło głównie o konflikt indywiduum i społeczeństwa – główny bohater ma prawo do podporządkowania sobie interesów społecznych w imię „wyższych” interesów osobistych.