W 1953 rozpoczął służbę w pakistańskiej armii. 23 marca 1971 wraz z wiernymi sobie oddziałami, rozpoczął zbrojne powstanie przeciwko Pakistańczykom, którego celem była niepodległość Bangladeszu. Odczytał proklamację niepodległości Bangladeszu przez radio Kalurghat 27 marca 1971https://bdnews24.com/bangladesh/2009/06/21/high-court-rules-on-historical-truth. Po uzyskaniu przez Bangladesz suwerenności, Ziaur Rahman służył w jego armii, zostając zastępcą szefa sztabu, a następnie szefem sztabu bengalskich sił zbrojnych. Po wojskowym zamachu stanu w sierpniu 1975, podczas którego zamordowano dotychczasowego przywódcę kraju Mujibura Rahmana, przejął władzę w kraju i objął stanowisko premiera. mały|Ziaur Rahman z żoną Chaledą Zia (1979). 21 kwietnia 1977 po wystąpieniu z wojska został prezydentem kraju. Początkowo obiecywał przeprowadzenie reform oraz wprowadzenie wolnych wyborów. Jednak po próbie zamachu stanu w 1977 roku wycofał się z tych planów. Dokonał wówczas masowych aresztowań swoich przeciwników politycznych. Jako prezydent – w 1978 – Rahman założył Nacjonalistyczną Partię Bangladeszu, której był liderem.