Zentrales Element des Libeskind-Baus sind die Achsen im Untergeschoss, die drei wesentliche Wege jüdischen Lebens in Deutschland symbolisieren - die Achse des Exils, die Achse des Holocaust und die Achse der Kontinuität. Die "Voids", Leerräume, die das gesamte Gebäude horizontal durchziehen, erinnern an die physische Leere, die der Holocaust hinterlassen hat.
Mit den Glashof verfügt das Museum über ein weiteres Architekturhighlight. Das Glasdach, das den U-förmigen, 670 Quadratmeter großen Innenhof des Altbaus überdeckt, wird von vier freistehenden Stützenbündeln aus Stahl getragen, die sich am Modell einer Laubhütte orientieren: Wie Bäume ragen sie in den Himmel, das Dach auf ihren Kronen tragend.