Die Schule ging aus der 1. Grundschule Charlottenburg hervor, deren Wurzeln bis 1867 zurückreichen. An ihrem letzten Sitz in der Sybelstraße 2-4 (heute: Sophie-Charlotte-Oberschule) wurde sie am 25.10.1954 nach dem großen Lyriker und Erzähler der deutschen Romantik, Joseph Freiherr von Eichendorff (1788-1857), benannt.
Das heutige Schulhaus wurde 1972-73 auf dem Gelände der im Zweiten Weltkrieg zerstörten Gebäude der 9. und 10. Gemeinde- und späteren Knabenmittelschule (erbaut 1899-1901 von Paul Bratring) sowie des 1909-10 von Hermann Dernburg (1868-1935) erbauten Jugendheims errichtet. Der Bauplan folgte dem Typenentwurf der Arbeitsgemeinschaft
“Grundschulstandardisierung”.
Das Schulgebäude ist ein zweigeschossiger Flachbau, der mit Stahlbeton-Rippenplatten errichtet wurde. Es verfügt über einen H-förmigen Grundriss. Ein schmaler Grünstreifen folgt den Gebäudekonturen und bietet so in dem eingerückten Teil Platz für ein Denkmal. Dieses ist dem Namenspatron der Schule gewidmet. Zur Schulanlage gehören außerdem eine freistehende Sporthalle sowie ein Hort, der in das Schulgebäude integriert ist.