Wie heute nur noch selten anzutreffen, umgibt der Friedhof unmittelbar die alte Dorfkirche Schmargendorf. Ein Drittel davon, nächst zur Kirche, gehört wie diese zur Evangelischen Gemeinde Alt-Schmargendorf, die verbleibenden zwei Drittel befinden sich nach einer Erweiterung der ursprünglichen Anlage, ebenso wie die Aussegnungskapelle, in kommunaler Verwaltung.
In der Kirchengruft entdeckte man 1936 bei Sanierungsarbeiten die Gebeine von Hans (gest.1635, Gesandter zur Zeit der Kurfürsten Johann Sigismund und Georg Wilhelm) und seiner Frau Eva von Wilmersdorf, geb. von Below (gest.1644, Kammerjungfer).
