Elekcja Rudolfa I oznaczała koniec Wielkiego Bezkrólewia w Niemczech.
Wojna z Przemysłem Ottokarem II mały|Pole bitwy pod Suchymi Krutami Rywal Rudolfa I, Przemysł Ottokar II, nie stawił się na Sejmie w Norymberdze, odmówił złożenia hołdu Rudolfowi i wycofania się z Austrii, którą zajął po wymarciu dynastii Babenbergów. W 1276 r. zawarto układ, na mocy którego syn Przemysła Ottokara, Wacław, miał poślubić córkę Rudolfa, Gutę, a Czesi mieli opuścić Austrię. Król czeski opóźniał jednak wykonanie postanowień traktatu i zawiązał sojusze z kilkoma książętami polskimi i niemieckimi, w tym z księciem Dolnej Bawarii Henrykiem I. Król Niemiec sprzymierzył się z królem Węgier Władysławem IV Kumańczykiem. W 1278 r. doszło do bitwy pod Dürnkrut (Suchymi Krutami), zakończonej zwycięstwem króla niemieckiego i śmiercią czeskiego króla. W 1282 r. w Augsburgu Rudolf I nadał księstwa przejęte po Babenbergach swoim synom: Austrię Albrechtowi, a Styrię Rudolfowi. Była to podstawa późniejszej terytorialnej potęgi Habsburgów w Niemczech.