W 2003 po raz pierwszy uzyskał mandat deputowanego do landtagu Dolnej Saksonii. W 2005 został członkiem zarządu partii, a rok później objął funkcję przewodniczącego FDP w Dolnej Saksonii. Po utworzeniu regionalnej koalicji CDU-FDP objął stanowisko wicepremiera oraz ministra gospodarki, pracy i transportu Dolnej Saksonii. 28 października 2009 został ministrem zdrowia w federalnym drugim rządzie Angeli Merkel. 12 maja 2011 przeszedł na urząd ministra gospodarki i technologii w tym samym gabinecie, a 16 maja dodatkowo wicekanclerzem.
13 maja 2011 na zjeździe w Rostocku został wybrany na nowego przewodniczącego FDP. W wyniku wyborów w 2013 kierowani przez niego liberałowie znaleźli się poza parlamentem. 7 grudnia 2013 na stanowisku przewodniczącego partii zastąpił go Christian Lindner. Dziesięć dni później zakończył pełnienie funkcji rządowych.
W styczniu 2014 dołączył do rady zarządzającej Światowego Forum Ekonomicznego. Został dyrektorem centrum zajmującego się strategiami regionalnymi w ramach tej organizacji.