w czasach najdawniejszych można mówić tylko o wyodrębnieniu się dialektu Polski północnej. Cechy charakterystyczne dla samego Mazowsza mogły powstawać dopiero między XII a XVI w.
Od XVI w. ludność mazowiecka posługująca się gwarami mazowieckimi kolonizowała obszar Prus zamieszkanych wcześniej przez bałtyckich Prusów, prowadząc do powstania na ich terenie nowych gwar o cechach mazowieckich. Ludność mazowiecka osiedlała się także w północnej Małopolsce i na Podlasiu przenosząc elementy swojego dialektu również tam.
Do XIX w. w gwarach dialektu mazowieckiego, będących mową chłopstwa i drobnej szlachty, powstało niewiele tekstów. Przykłady cech gwar mazowieckich przechowały się w niedużej liczbie tekstów parodiujących mowę i usposobienie Mazurów, m.in. w uniwersałach mazowieckich. Dwa tego typu rękopisy znajdujące się w bibliotece Poznańskiego Towarzystwa Przyjaciół Nauk odnalazł i opracował historyk Bolesław Erzepki, uznając je za cenne materiały dialektologiczne:
Badania nad dialektami polskimi, w tym nad dialektem mazowieckim, zapoczątkował dialektolog Kazimierz Nitsch, dokonując również pierwszego schematycznego podziału na gwary. Określał on dialekt mazowiecki jako najbardziej odrębny spośród dialektów polskich poza kaszubszczyzną.