W 1976 został wybrany na przewodniczącego organizacji młodzieżowej MSP w Beyoğlu, a następnie został szefem organizacji młodzieżowej MSP w Stambule.
Po przewrocie wojskowym 12 września 1980, po którym zdelegalizowano wszystkie partie polityczne, Erdoğan pracował w sektorze prywatnym jako doradca i menedżer. W 1983 wrócił do działalności politycznej jako członek Partii Dobrobytu. Rok później został przewodniczącym okręgowej organizacji partyjnej w Beyoğlu, a w 1985 przewodniczącym organizacji regionalnej w Stambule oraz członkiem centralnych władz partii.
27 marca 1994 wygrał wybory na stanowisko burmistrza Stambułu. W okresie sprawowania tej funkcji (1994–1998), Erdoğanowi udało się rozwiązać szereg problemów w sferze gospodarki, infrastruktury, komunikacji oraz ekologii, m.in. poprzez budowę sieci wodociągowej i kanalizacyjnej, oczyszczalni ścieków, dróg i mostów, mieszkań komunalnych oraz pomoc dla najuboższych. Zdołał również spłacić znaczną część miejskich długów. Erdoğan uchodzi też za pierwszego z burmistrzów Stambułu, który zatroszczył się o ochronę środowiskaDariusz Kołodziejczyk, Turcja, Warszawa 2000, s. 264.. Za osiągnięcia w zarządzaniu metropolią był chwalony także przez przeciwników politycznych.