Jego zwłoki zostały znalezione przez żołnierzy wojsk granicznych 22 kwietnia 1962 r. około godziny 18:00 w pobliżu mostu Schillingbrücke. Przy denacie znaleziono również owinięte w plastikowy worek dokumenty osobiste, co posłużyło jako dowód nieudanej próby ucieczki. W trakcie sekcji zwłok ustalono, iż Held prawdopodobnie utonął chcąc się dostać do Berlina Zachodniego przepływając przez port Osthafen. Badania wykazały także, iż śmierć nastąpiła około 10 dni przed znalezieniem ciała.

Prokuratura państwowa w Berlinie Wschodnim powiadomiła matkę Helda o jego śmierci wiele dni później, podobnie jak o fakcie kremacji zwłok. W związku z niewiarygodnie brzmiącą informacją, ta zwróciła się do zachodnioniemieckich mediów. 5 maja 1962 r. w jednym z artykułów gazety Bild napisano: „nie ma chyba żadnych wątpliwości co do tego, że Philipp Held „został zamordowany przez pograniczników Ulbrichta.””, w całej RFN zaś krążyła pogłoska, iż Held został zastrzelony.