Działalność polityczna do 2017 W 1979 wstąpił do Unii Chrześcijańsko-Demokratycznej. W 1991 został wiceprezesem tej partii w Akwizgranie, wchodził także w skład władz powiatowych CDU. Pracował w zespołach roboczych dwojga przewodniczących Bundestagu – Philippa Jenningera i Rity Süssmuth. Od 1989 do 2004 był radnym miejskim, w latach 1994–1998 zasiadał w Bundestagu.
W 1999 z listy CDU po raz pierwszy uzyskał mandat deputowanego do Parlamentu Europejskiego. W wyborach w 2004 z powodzeniem ubiegał się o reelekcję. Był m.in. członkiem grupy chadeckiej, pracował m.in. w Komisji Gospodarczej i Monetarnej.
W 2005 odszedł z PE w związku z objęciem stanowiska ministra ds. pokoleń, rodziny, kobiet i integracji w rządzie kraju związkowego Nadrenia Północna-Westfalia. Funkcję tę pełnił do 2010, w tym samym roku został posłem do landtagu NRW, utrzymując mandat w kolejnych wyborach. W 2012 stanął na czele struktur Unii Chrześcijańsko-Demokratycznej w tym kraju związkowym, a także został wiceprzewodniczącym federalnych struktur CDU.
Działalność polityczna od 2017 W 2017 kierowani przez niego chadecy zwyciężyli w wyborach do landtagu, uzyskując wraz z Wolną Partią Demokratyczną większość w tym parlamencie.