Kariera trenerska Sundermann karierę rozpoczął jako trener grający zespołu Servette FC. W 1976 roku został trenerem klubu VfB Stuttgart z 2. Bundesligi. W sezonie 1976/1977 awansował z nim do Bundesligi. Stuttgart prowadził do końca sezonu 1978/1979. Następnie trenował szwajcarski Grasshopper Club, z którym w sezonie 1979/1980 wywalczył wicemistrzostwo Szwajcarii.
W 1980 roku Sundermann wrócił do VfB Stuttgart, który tym razem prowadził przez dwa sezony. Następnie objął stanowisko szkoleniowca zespołu Stuttgarter Kickers z 2. Bundesligi, jednak w trakcie sezonu 1982/1983 zmienił klub i został trenerem FC Schalke 04 (Bundesliga). Pracował tam do końca tamtego sezonu, a następnie przeniósł się do francuskiego RC Strasbourg. W sezonie 1983/1984 zajął z nim 8. miejsce w Division 1. W marcu 1985 odszedł z klubu.
Od połowy 1985 do marca 1986 Sundermann prowadził turecki Trabzonspor. Następnie został trenerem broniącej się przed spadkiem z 2. Bundesligi Herthy BSC, z którą na koniec sezonu 1985/1986 spadł jednak do Oberligi. W sezonie 1987/1988 awansował z nią jednak z powrotem do 2. Bundesligi. W październiku 1988 przestał być szkoleniowcem Herthy.