Nie jest to przepis talmudyczny, ale praktyka chodzenia z zakrytą głową jest odnotowana w Talmudzie, gdzie wskazane jest nakrywanie głowy chłopcom, co ma dać im pobożność w życiu dorosłym. Chodzenie z głową nakrytą jarmułką stało się zwyczajem powszechnie akceptowanym przez Żydów, a z czasem większość autorytetów halachicznych uznało je za obowiązkowe.
Zwyczaj noszenia jarmułki ma swą genezę w czasach biblijnych, kiedy to kapłani nakrywali głowy podczas obrzędów. Jarmułka jest używana zwyczajowo od starożytności. Początkowo nie była noszona powszechnie przez Żydów, upowszechniła się w czasach średniowiecza, kiedy to wprowadzono prawo nakazujące odróżniać żydów od chrześcijan (w 1215 roku Czwarty Sobór Laterański nakazał żydom i muzułmanom w krajach chrześcijańskich ubieranie się w sposób odróżniający ich od chrześcijan).
Jarmułka dla żydów nie jest przedmiotem posiadającym świętość, w przypadku zużycia może być wyrzucona i zastąpiona nową.
Kolory jarmułek Chasydzi tradycyjnie noszą jarmułki w kolorze czarnym. W czasie świąt żydowskich często zakładane są białe jarmułki.