1898 wird der „Gemeinnützige Verein Schmargendorf“ gegründet.
1900 gründet der Verein eine Bücherei, die in der Gemeindeschule in der Breiten Straße untergebracht wird. Die Bücherei besitzt 377 Bände, die unentgeltlich verliehen werden.
1919 wird die Bücherei von der Gemeinde Schmargendorf als Gemeindebücherei übernommen und zieht in die Warnemünder Str. 4.
1920 wird Schmargendorf in Berlin eingemeindet und gehört zum Bezirk Wilmersdorf. Die Bibliothek ist nun eine Zweigstelle der Wilmersdorfer Stadtbibliothek.
1952: Nach dem Zweiten Weltkrieg wird die Bibliothek im Rathaus Schmargendorf am Berkaer Platz als Zweigstelle der Stadtbibliothek Wilmersdorf wiedereröffnet.
1968 erhält die Bibliothek den Namen „Adolf-Reichwein-Bibliothek“, nach dem 1944 von den Nazis hingerichteten Pädagogen und Widerstandskämpfer Adolf Reichwein.
Zum Jahreswechsel 2018/2019 zieht die Bibliothek in neue, barrierefreie Räume im Souterrain des Rathauses Schmargendorf.