Koszt budowy został pokryty przez rząd Republiki Federalnej Niemiec. Teren pomnika o wartości 40 mln euro został przekazany nieodpłatnie przez władze Niemiec. Inicjatywę pomnika zapoczątkowała w roku 1988 dziennikarka Lea Rosh. W maju 1994 rozpisano konkurs na projekt pomnika. Wybrany wtedy projekt Christine Jackob-Marks został w czerwcu 1995 odrzucony przez kanclerza Helmuta Kohla. W ponownym konkursie z lipca 1997 wybrano projekt architekta Petera Eisenmana i rzeźbiarza Richarda Serry. W roku 1998 Richard Serra wycofał się z zespołu autorskiego protestując przeciw narzuconym zmianom. 25 czerwca 1999 Bundestag zatwierdził budowę pomnika i wyasygnował sumę 54 mln DM.
Rezolucja Niemieckiego Bundestagu z dnia 25 czerwca 1999 roku głosi:
1.1 Republika Federalna Niemiec utworzy w Berlinie miejsce pamięci ku czci zamordowanych Żydów Europy. 1.2 Utworzeniem tego miejsca pamięci pragniemy: uczcić ofiary zamordowanych Żydów, zachować w żywej pamięci niewyobrażalne wydarzenia z niemieckiej historii, ostrzegać przyszłe pokolenia, by nigdy nikt nie łamał praw człowieka, by były chronione zasady demokratycznego państwa oraz równość obywateli wobec prawa i by się sprzeciwiać wszelkim rodzajom dyktatury i przemocy.