Das Schulgebäude wurde 1976-1978 nach Plänen von Rolf D. Weisse, einem Schüler Mies van der Rohes (1886-1969) errichtet. Am 25.10.1954 erhielt die 9. Grundschule Charlottenburg den Namen Mierendorff-Grundschule. Mit dieser Namensgebung wurde der sozialdemokratische Politiker und Kämpfer gegen das NS-Regime Carlo Mierendorff (1897-1943) geehrt. Bis zu ihrem Umzug an den heutigen Standort nutzte die Mierendorff-Grundschule das 1893 von Peters für die damalige 5. und 6. Gemeindeschule Charlottenburg errichtete Schulhaus in der Mierendorffstraße 28-30.
Die großzügige Schulanlage besteht aus mehreren zwei- und dreigeschossigen Gebäudeteilen, die miteinander verbunden sind. Da die Anlage von der Mierendorffstraße weit zurückgesetzt ist, entsteht ein größerer Vorplatz, der größtenteils bepflanzt ist. Im Innenhof der Mierendorff-Grundschule steht die Skulptur “Wassermaschine mit Sonnenuhr”. Die Turnhalle befindet sich etwas abseits auf einem Grundstück an der Nordhauser Straße.