Archäologische Funde beweisen es: Besiedelt war das Gebiet des heutigen Bezirks schon in vorgeschichtlicher Zeit. Die ältesten Funde weisen auf Ansiedlungen in der jüngeren Jungsteinzeit hin. Während der Völkerwanderung war die Moränenlandschaft des Teltow ein Durchzugsgebiet germanischer Stämme. In das danach sehr dünn besiedelte Gebiet stießen dann etwa um 500 n. Chr. aus dem Osten vertriebene Slawen. In einer Urkunde aus dem Jahre 623 ist erstmals von den Wenden die Rede, bei denen es sich vermutlich um eine aus den Resten germanischer Stämme und den zugewanderten Slawen hervorgegangene Mischbevölkerung handelt.
Erste schriftliche Zeugnisse über Steglitz betreffen den Ortsteil Lankwitz. Nach einer aus dem Jahre 1239 stammenden Urkunde haben die Markgrafen Johann und Otto – Urenkel Albrechts des Bären – das Dorf „Lancewitz“ dem Nonnenkloster zu Spandau überlassen. Der Name Steglitz taucht erst drei Jahre später in einer Schenkungsurkunde auf, mit der ein Heinrich von Stegelitze das bei Potsdam gelegene Dorf Arnestrop (heute: Ahrensdorf) dem Kloster Lehnin übereignete. Ob die Herren von Stegelitze auch die Gründer und Namensgeber von Steglitz sind, ist nicht eindeutig geklärt. Möglicherweise ist der Name auch slawischen Ursprungs. Darauf weist die im Märkischen sehr häufige Endung „itz“ (= Ansiedlung) hin. „Stygl“ bedeutet soviel wie Neige oder Abhang am Berg. Steglitz wäre demnach die Ansiedlung „Am Berghang“. Gestützt wird die Annahme auch durch die ursprüngliche Lage des Dorfes am Fuß des Fichtenberges.
Die Gründung von Lichterfelde und Giesensdorf, die sich im 19. Jahrhundert zu der Gemeinde Groß-Lichterfelde zusammenschlossen, geht wahrscheinlich auf flämische Einwanderer zurück, die sich im 13. Jahrhundert hier niederließen und dem neuen Dorf den Namen ihres südlich der belgischen Stadt Brügge gelegenen Heimatortes gaben.
Bis zum Ende des 18. Jahrhunderts verlief die Entwicklung der vier Teltow-Dörfer recht ähnlich. Die wenigen Bewohner – um 1700 lebten hier nur insgesamt etwa 200 bis 300 Menschen – vermochten den kargen Böden nur bescheidene Erträge abzuringen. Zudem waren sie von ihren jeweiligen Gutsherren, die ihnen das Land lediglich zur Pacht überlassen hatten, praktisch völlig abhängig. Das änderte sich erst mit den Steinschen Reformen zu Beginn des 19. Jahrhunderts, durch die die Bauern Besitzer des von ihnen beackerten Landes wurden.
Den wirtschaftlichen Aufschwung – insbesondere von Steglitz – leitete der Bau der ersten gepflasterten Straße Preußens im Jahr 1792 ein, die Berlin mit Potsdam verband und 1838 die Inbetriebnahme der ersten Eisenbahnlinie Berlin – Potsdam. Bis dahin waren die Dörfer im Süden Berlins für hohe Beamte und Offiziere attraktiv, die es für vorteilhaft hielten, nahe der Hauptstadt – auf halbem Weg nach Potsdam, das schon der Große Kurfürst zu seiner Sommerresidenz erkoren hatte – Grund und Boden zu erwerben. Der prominenteste Bewohner war wohl der königliche Kabinettsrat und spätere Minister und Großkanzler Carl Friedrich von Beyme, der 1802 das Gut und Dorf Steglitz erwarb. An der neuen Chaussee nach Potsdam ließ er ein Gutshaus errichten, das noch heute nach seinem späteren Bewohner, dem in der Bevölkerung beliebten Generalfeldmarschall von Wrangel, „Wrangelschlößchen“ genannt wird. Nach dem Tod Beymes, der übrigens schon 1806 die „erbliche Untertänigkeit“ aufhob und seinen Bauern ihre Höfe sowie 130 Morgen Land gegen ein „Erbstandsgeld“ als Eigentum überließ, verkaufte dessen Tochter das Gut an den preußischen Fiskus. Das 940 Morgen große Gutsgelände wurde in Parzellen aufgeteilt und verkauft. Im Bereich der heutigen Albrecht- und Breite Straße entstand die Kolonie Neu-Steglitz. Als einer der ersten erwarb der Seidenbauunternehmer Johann Adolf Heese Land für eine Maulbeerbaumplantage (die Plantagenstraße erinnert noch daran), errichtete eine Seidenfabrik und baute das Unternehmen nach und nach zu einem Zentrum der preußischen Seidenproduktion aus.
Für Lichterfelde begann die Zeit des Aufschwungs um 1865, als der Hamburger Großkaufmann Johann Anton Wilhelm Carstenn, der später für seine Verdienste geadelt wurde, die völlig verschuldeten Güter Giesensdorf und Lichterfelde für die Summe von nur 345.000 Talern kaufte. Carstenns Ziel war es, einen für die besser verdienenden Kreise der Bevölkerung Berlins interessanten Villenvorort zu schaffen; indem er schließlich die Errichtung der Haupt-Kadettenanstalt, in der der Offiziersnachwuchs der Armee ausgebildet wurde, in Groß-Lichterfelde durchsetzte, versuchte er, die neue Kolonie noch attraktiver zu machen. Hier fuhr ab 1881 – zwischen der Haupt-Kadettenanstalt und dem Bahnhof Lichterfelde Ost – die von Siemens & Halske ausgeführte erste elektrische Straßenbahn der Welt. 1903 nahm dann die „Elektrische“ ihren Betrieb nach Berlin auf.
Mit Lichterfelde eng verbunden ist auch der Name eines weltberühmten Erfinders: Otto Lilienthal (1848 – 1896). Lilienthal konstruierte insgesamt 18 Typen von Flugapparaten und machte etwa 2.000 Flüge. Sein „Fliegeberg“ an der heutigen Lichterfelder Schütte-Lanz-Straße wurde 1932 zu einer Lilienthal-Gedenkstätte umgestaltet.
Am längsten bewahrte Lankwitz seine dörfliche Abgeschiedenheit. Hier war es vor allem der Kaufmann Felix Rosenthal, der nach dem Vorbild von Carstenn Bauernland kaufte, parzellierte und zu einer Gartenstadt mit Landhäusern bebauen ließ. Ab 1872 entstand am Südhang der Rauhen Berge der Ortsteil Südende, der von der Aktienterraingesellschaft „Südende“ gegründet wurde und zwischen dem heutigen Munsterdamm und der Berlin-Dresdner Bahn gelegen war. Hier entwickelte sich ebenfalls eine attraktive Villenkolonie.
In allen Ortsteilen des ehemaligen Bezirks Steglitz wuchs die Bevölkerungszahl durch die Neusiedler unaufhaltsam. Im Jahre 1905 gab es allein in Steglitz – Dorf und Kolonie hatten sich am 28. März 1870 zu einer Gemeinde zusammengeschlossen – bereits 32.905 Einwohner, was den Ruf nach Stadtrechten laut werden ließ. Doch der Kreis Teltow wollte nicht auf die Einnahmen aus der recht wohlhabenden Gemeinde Steglitz verzichten. So blieb sie bis nach dem Ersten Weltkrieg die größte Landgemeinde Preußens.
Am 1. Oktober 1920 wurde aus den Dörfern (nunmehr Ortsteile) Lankwitz, Lichterfelde, Steglitz sowie Südende der Bezirk Steglitz als XII. Verwaltungsbezirk von Groß-Berlin gebildet.
Auch die dunklen Zeiten der Geschichte hinterließen ihre Spuren im Bezirk. Das Wahlverhalten der Steglitzer Bevölkerung während der Weimarer Republik zeigte den Bezirk als Berliner Hochburg der Rechten. Im Juli 1932 erzielte die NSDAP in Steglitz 42,1 % der Stimmen (Berliner Durchschnitt: 28,6 %).
Nach der Machtübernahme der Nationalsozialisten am 30. Januar 1933 wurden auch überregionale Einrichtungen der NSDAP in Steglitz angesiedelt. Die „SS-Leibstandarte Adolf Hitler“ zog in die Gebäude der ehemaligen Haupt-Kadettenanstalt in Lichterfelde. Dort fanden 1934 im Rahmen des „Röhm-Putsches“ zahlreiche Erschießungen statt. Sitz des nach dem „Reichssicherheitshauptamt“ wichtigsten SS-Amtes, dem „SS-Wirtschaftsverwaltungshauptamt“, wurde der Gebäudekomplex Unter den Eichen 126 – 135. Von dort aus wurde u.a. die wirtschaftliche Ausbeutung der Häftlinge in den Konzentrations- und Vernichtungslagern organisiert. Auch in Steglitz wurden im November 1938 in der Reichskristallnacht Geschäfte demoliert und geplündert.
Als Beispiele für Widerstandsgruppen gegen den Nationalsozialismus können die „Gruppe Onkel Emil“ um Ruth Andreas-Friedrich und Leo Borchard im Hünensteig 6 sowie der „Kreisauer Kreis“ in der Wohnung von Peter Graf Yorck von Wartenburg in der Hortensienstraße 50 gelten.
Nach dem Krieg war Steglitz bis zum Abzug der Alliierten aus der deutschen Hauptstadt im Jahre 1994 nicht zuletzt auch amerikanisch geprägt, da sich hier vier große Kasernenstandorte der amerikanischen Alliierten befanden: „Andrews“ an der Finckensteinallee, „McNair“ an der Goerzallee, „Roosevelt“ am Gardeschützenweg, sowie der Truppenübungsplatz „Parks Range“ in Lichterfelde Süd.
Nicht zuletzt seit Berlin Bundeshauptstadt ist, fanden auch viele Bonner im Bezirk ein neues Zuhause. Im Rahmen der Berliner Bezirksreform wurde Steglitz am 01.01.2001 mit seinem Nachbarbezirk Zehlendorf fusioniert.