Rudolf Cohen werd in Enschede geboren als zoon van Isak Meijer Cohen en Betje Salomon Cohen. Hij trouwde met Catharina Ouds.
Rond de eeuwwisseling had hij een meubelzaak aan de Haverstraat 32 in Enschede. In 1902 voegde hij een stoffeerderij en "behangerij" aan zijn aanbod toe. Hij had daarvoor een deskundige aangetrokken die chef was geweest bij de grootste zaken in het westen van het land.
In 1911 is de zaak vermoedelijk opgeheven. Hij ging in dat jaar samenwerken met de Enschedese textielfabrikant Hermannus Gerhard Elderink en J. Pluim uit Deventer. Zij investeerden samen in de aankoop en exploitatie van onroerend goed en richtten dat jaar daarvoor de maatschappij "De Arke" op. Rudolf werd directeur en de andere twee werden commissarissen van de onderneming. In Amsterdam had hij vervolgens een makelaarskantoor aan de van Eeghenstraat 67.
Hij is uiteindelijk ergens in de jaren '20 in Amsterdam terechtgekomen en is daar op 1 januari 1938 overleden aan de Johannes Verhulststraat 168. Rudolf koos voor een crematie. Hij had op dat moment een kleindochter, Madeleine, dochter van zoon Louis en H. Cohen-Illig.