Istnieją różne hipotezy umiejscawiające je w różnych miejscach. Wedle hipotezy Atlantogenata szczerbaki tworzą klad Atlantogenata z grupą afroterów (afrotery obejmują afrosorkowce, ryjkonosowe, rurkozębne, góralkowce, trąbowce i brzegowce). Pozostałe ssaki łożyskowe należą do Boreoeutheria. Hipotezę tę wspierają badania genetyczne. Badania metodą zegara molekularnego wskazują czas rozejścia się szczerbaków i afroterów na około 103 miliony lat temu (przedział 93–114 milionów lat). Hipoteza Exafroplacentalia wiąże szczerbaki nie z afroterami, w których widzi najbardziej bazalną grupę łożyskowców, ale z Boreoeutheria, dzielonymi na Laurasiatheria (Eulipotyphla, nietoperze, kopytne i Ferae) i Euarchontoglires (siekaczowce, naczelne, łuskowce i Dermoptera). Klad tworzony przez szczerbaki i Boreoeutheria nosi nazwę Exafroplanetalia bądź Notolegia. W końcu hipoteza Epitheria dzieli łożyskowce na dwa klady, z których jednym są szczerbaki. Wszystkie pozostałe łożyskowce zalicza natomiast do drugiego, nazwanego Epitheria, dzielonego dalej na afrotery i Boreoeutheria.
W przeszłości wszystkie gatunki zaliczano do pojedynczej rodziny mrówkojadowatych. Jednakże badania genetyczne 12S mtDNA ujawniły zjawisko przyciągania długich gałęzi, wskazując na odrębność mrówkojadka.