W 1962 wstąpił do Socjalistycznej Partii Austrii (SPÖ). We wrześniu 1984 został powołany przez kanclerza Freda Sinowatza na stanowisko ministra finansów w jego gabinecie. Po jego rezygnacji w czerwcu 1986 objął urząd kanclerza federalnego, którym pozostał do stycznia 1997. W trakcie urzędowania Austria przystąpiła do Unii Europejskiej. W okresie 1988–1997 stał na czele SPÖ, która pod jego kierownictwem w 1991 przyjęła nazwę Socjaldemokratyczna Partia Austrii. Był także jednym z wiceprzewodniczących Międzynarodówki Socjalistycznej. W XVII, XVIII, XIX i XX kadencji przez krótki okres wykonywał mandat posła do Rady Narodowej.

W 1997 odszedł ze wszystkich funkcji politycznych. W tym samym roku był specjalnym wysłannikiem OBWE w Albanii. Od 1997 do 2010 pracował jako konsultant w banku WestLB. W 2004 opublikował książkę Politische Erinnerungen, poświęconą jego wspomnieniom politycznym. W 2010 został wiceprzewodniczącym InterAction Council, międzynarodowego think tanku grupującego byłych szefów rządów i głowy państw, który założył Takeo Fukuda.