Koszt urządzenia cmentarza pokryło miasto Kraków i okoliczne gminy: Rakowice, Prądnik Biały i Prądnik Czerwony, Olsza, Grzegórzki, Piaski, Bronowice Wielkie i Bronowice Małe, Czarna Wieś, Nowa Wieś, Krowodrza, Kawiory, którym przyznano prawo do grzebania na nim zmarłych. Pierwszy pogrzeb miał miejsce w styczniu 1803 (18-letniej Apolonii z Lubowieckich Bursikowej, zmarłej 15 stycznia 1803 r.). W 1807 r. wybudowano studnię, a w 1812 r. ze składek publicznych ufundowano okazały krzyż.
Cmentarz był kilkakrotnie powiększany. Po raz pierwszy w 1836 r., kiedy od karmelitów czerneńskich dokupiono kolejne 10 mórg gruntu za 5 tys. złotych polskich. Rozplanowanie cmentarza zlecono architektowi, dyrektorowi wydziału budownictwa miejskiego, Karolowi R. Kremerowi, który, w 1839 r., zaprojektował jego założenie parkowe. Nowo nabyty grunt poświęcono 2 listopada 1840 r. Otaczający go mur wzniesiono z materiału uzyskanego z rozbiórki kościoła Wszystkich Świętych.