Steglitz, früher Stegelitz, wurde unterhalb des Fichtenbergs als Straßendorf am Bäkequell erstmals 1375 im Landbuch Kaiser Karls IV. erwähnt. Von der Reformation bis 1893 war Stegelitz kirchlich eine Filia von Giesendorf. Die Verbindungsstraße in die Residenz- und Garnisonsstadt Potsdam gewann zunehmend an Bedeutung und so ließ König Friedrich Wilhelm II. diese zur Chaussee ausbauen. Steglitz profitierte von seiner Lage an der alten Reichsstraße 1, der heutigen Bundesstraße 1, die ursprünglich über mehr als 1.000 Kilometer von Aachen über Berlin bis an die deutsch-litauische Grenze reichte und als wichtigste Straßenverbindung Deutschlands galt.
Der Kabinettsrat und spätere Großkanzler Karl Friedrich von Beyme erwarb 1801 Stegelitz. Nach dem Bau der ersten Eisenbahnlinie, der Wannseebahn, verbrachten viele Berlinerinnen und Berliner den sonntäglichen Ausflug im ländlichen Stegelitz. Nach 1850 nahm der Generalfeldmarschall Friedrich Heinrich Ernst Graf von Wrangel des Öfteren seinen Sommeraufenthalt im Stegelitzer Gutshaus. Als volksverbundener Mensch wurde er von den Kinder liebevoll „Papa Wrangel“ genannt und so erhielt auch das Beyme-Schlösschen den Namen „Wrangelschlößchen“. Heute finden dort kulturelle Veranstaltungen statt. Der Name des Ortsteils änderte sich schließlich von Stegelitz in Steglitz im Zuge des Zusammenschlusses der neu gegründeten Kolonie und dem alten Dorf im Jahre 1870.
Nach den beiden Weltkriegen ist die großzügige Bebauung mit den parkähnlichen Gartenanlagen in Steglitz durch eine dichtere Bebauung mit kleineren Villen, später auch mit Reihenhäusern und Eigentumswohnanlagen verdrängt worden und hat somit das Aussehen des bis dahin markanten Fichtenbergs stark verändert. Auf diesem, mit 68 Metern über NN höchsten Punkt des Bezirks, wurde an der Zeunepromenade 1877 die Blindenbildungsanstalt „Johann-August-Zeune-Schule“ neu erbaut und eröffnet. Bereits im 18. Jahrhundert kamen die Steglitzer Kinder in den Vorzug des Schulunterrichts. Nach dem ersten Schulbau 1826, wurde eine neue Schule 1871 an der Schloßstraße errichtet, die bis in die 1930er Jahre erhalten blieb.
Während der Weimarer Republik war Steglitz eine Hochburg der Rechten. Nach der Machtübernahme der Nationalsozialisten waren verschiedene Ämter des Nazi-Regimes im Bezirk untergebracht, so unter anderem das SS-Wirtschafts- und Verwaltungshauptamt sowie die zentrale Leitung der SS-Wirtschaftsunternehmen. Trotz weitgehender Akzeptanz und Sympathie für die Nazis gab es aber auch Widerstand gegen Hitler. So zählt der „Kreisauer Kreis“ zu den bedeutenden Kräften im Deutschen Widerstand. Nach Kriegsende entwickelte sich Steglitz dann zu einem großstädtischen Ortsteil mit der Schloßstraße als Zentrum und belebter Einkaufsmeile.