W październiku 2001 w Tico-Tico Studios w Lappland zespół zgromadził się, aby nagrać kolejną płytę – They Will Return już po zmianie składu zespołu: na stanowisku gitarzysty basowego Altti Veteläinena zastąpił Timo Lehtinen (z Catamenia), a stanowisko perkusisty – Petri Sankali zostało objęte przez Janne Kusmina. Lato 2002 roku zespół spędził na serii koncertów w Finlandii, zwieńczonych występem zespołu na Wacken Open Air. Jesienią 2002 roku Kalmah rozpoczął nagrywanie nowej płyty Swampsong, która ostatecznie ukazała się w lutym 2003.
Płyta została godnym następcą They Will Return, zarówno według krytyków, jak i według fanówKalmah – They Will Return – Metal Storm.. W roku 2004 Pasi Hiltula postanowił wycofać się z gry w zespole na rzecz innych obowiązków. Na jego miejsce przyjęty został klawiszowiec Marco Sneck z Poisonblack. W tym składzie zespół nagrał w roku 2005 płytę The Black Waltz, której całość została profesjonalnie zremasterowana przez Mika Jussila z Finnvox. Wszystkie 11 utworów wchodzących w skład The Black Waltz wyróżniały się wśród dotychczasowych utworów zespołu ciężkim i szorstkim brzmieniem. Album odniósł niespotykany dotychczas sukces – 38.