Pod rządami austriackimi Sarajewo zmodernizowano i znacznie rozbudowano. Sarajewo zostało uprzemysłowione przez Austro-Węgry, które wykorzystały miasto jako poligon doświadczalny dla nowych wynalazków, takich jak tramwaje, które powstały w 1885 roku, zanim później trafiły do Wiednia. Dzięki przebudowom z tego okresu miasto stanowi unikalne połączenie miasta osmańskiego z architekturą zachodnią. Sarajewo może pochwalić się również przykładami secesji i pseudomauretańskiej architektury z tego okresu. W tym okresie zbudowano również Muzeum Narodowe, katedrę, browar i ratusz.
28 czerwca 1914 r. w Sarajewie serbski nacjonalista, Gavrilo Princip, dokonał zamachu na austriackiego następcę tronu, arcyksięcia Ferdynanda. Wydarzenie to było bezpośrednią przyczyną wybuchu I wojny światowej.
Jesienią 1918 r. mjr Artur Ganczarski (legionista) utworzył w Sarajewie Legion Polski w sile 600 żołnierzy i 63 oficerów, który przyprowadził do Polski, do Krakowa w dniu 25 listopada 1918 r.