Abraham van Gelder was getrouwd met Sibilla Heijmans. Het echtpaar woonde tot aan hun deportatie in de Boschstraat 22 in Winschoten.
Abraham van Gelder begon op de leeftijd van 13 jaar met de studie aan het Nederlands-Israëlietisch Seminarium in Amsterdam, waar hij na vier jaar het examen aflegde voor leraar in de laagste rang. In 1890 werd hij leraar aan één van de Amsterdamse joodse godsdienstscholen. Later werd hij aangesteld als tweede chazan, tevens leraar in Almelo. Daarna was hij leraar-chazan in achtereenvolgens Hengelo en Maastricht. Ten slotte werd hij, in 1899, in die functies aangesteld bij de joodse gemeente in Winschoten. Daarnaast was hij secretaris van de joodse gemeente en lid van het joodse Armbestuur. Hij was tevens regent van het Huis van Bewaring in Winschoten.
De lijfspreuk van Abraham van Gelder was: preek weinig en doe veel. Bij de viering van zijn 25-jarig ambtsjubileum in 1924 kreeg hij van zijn gemeenteleden een zilveren bestek en van zijn leerlingen een koperen tabakspot met asbak.
Sibilla van Gelder-Heijmans was voorzitter van het damesbestuur van het Doodgraverscollege in Winschoten.
G.S.Koeman-Poel, Een synagoge op het kruispunt van de winden (De Joden van Winschoten) 1750-1942(Winschoten 2002)29, 113-115, 157, 210
Van dit gezin is ook een JOKOS-dossier (nummer 17450) aanwezig op het Gemeentearchief van Amsterdam. Voor inzage is toestemming nodig van de stichting Joods Maatschappelijk Werk. Uit het JOKOS-dossier is bekend dat er een claim is ingediend voor vergoeding van waardevolle voorwerpen ingeleverd bij de roofbank Lippmann-Rosenthal (L-claim, nummer 3793/15188).