Josef Waldmann was een zoon van Moritz Waldmann en Rosa Eizner. Hij had een zus, Klara.
Josef vluchtte op 22 januari 1939 naar Nederland en verbleef van 12 juni 1940 tot 7 december 1942 in het jeugdalijah-tehuis Paviljoen Loosdrechtse Rade in Loosdrecht. Voor die tijd was hij opgevangen op enkele plaatsen voor Palestina pioniers. Zijn ouders bleven achter in Berlijn, waar ze op de Veteranstrasse woonden. Moeder werkte als dwangarbeidster op een munitiefabriek van Siemens en Halske.
Josef werd op de vlucht naar Zwitserland in oktober 1942 met 7 mede-tehuisjongeren opgepakt bij de Belgische grens na verraad. Hij ging met het transport van 31 oktober 1942 via Mechelen naar Auschwitz, waar hij op 3 november aankwam. Niemand van het transport overleefde. Ook Jossels ouders in Berlijn kwamen om. Zijn zus Klara overleefde de oorlog en woont tegenwoordig in Israël.