W 1969 wstąpił do chadeckiej młodzieżówki Junge Union, w 1971 został natomiast członkiem Unii Chrześcijańsko-Społecznej. W 1980 po raz pierwszy został wybrany na posła do Bundestagu z okręgu obejmującego jego rodzinną miejscowość. Z powodzeniem ubiegał się o reelekcję w 1983, 1987, 1990, 1994, 1998, 2002 i 2005, zasiadając w niższej izbie niemieckiego parlamentu do 2008. W 1983 został rzecznikiem CSU ds. polityki społecznej, od 1989 do 1992 był parlamentarnym sekretarzem stanu w resorcie pracy i polityki społecznej. Od maja 1992 do października 1998 sprawował urząd ministra zdrowia w gabinetach rządach Helmuta Kohla. Od września 1994 pełnił funkcję wiceprzewodniczącego CSU. W listopadzie 2005 powrócił do rządu federalnego, Angela Merkel powierzyła mu wówczas urząd ministra rolnictwa, polityki żywnościowej i ochrony konsumentów, który sprawował do października 2008.

W wyborach regionalnych w 2008 chadecy utracili bezwzględną większość w bawarskim parlamencie, co stanowiło najgorszy wynik partii od kilkudziesięciu lat. W konsekwencji przewodniczący CSU Erwin Huber i premier Günther Beckstein zrezygnowali ze swoich funkcji.