Der Bau des Bode-Museums ehrte den 99-Tage-Kaiser Friedrich III. und wurde von dessen Sohn Kaiser Wilhelm II. beauftragt. Für den Architekten Ernst von Ihne war es eine Herausforderung, die durch die Hochbahn abgeschnittene Spitze der Insel zu bebauen. Der dreieckige Grundriss des Museums nutzt die Fläche zwar optimal aus, führt aber bis heute teils dazu, die Orientierung zu verlieren. Eine der architektonischen Leistungen ist der fast 60 Meter lange Große Tresor des Münzkabinetts im Untergeschoss des Gebäudes. Schon bei der Eröffnung des Museums zeigte sich, dass der Neubau viel zu klein war, um den Sammlungen gerecht zu werden.
Nach dem Zweiten Weltkrieg wurden Deutschland und Berlin in vier Besatzungszonen aufgeteilt und im Jahr 1949 die beiden deutschen Staaten – die BRD und die DDR – gegründet. Die deutsche Teilung bedeutete zugleich die Teilung Berlins, aber auch der Berliner Museen: Fortan befanden sich die Bestände der Skulpturensammlung und des Museums für Byzantinische Kunst, entsprechend der jeweiligen Auslagerungsorte während des Krieges, teils im Bode-Museum in Ost-Berlin und teils im Bruno-Paul-Bau im West-Berliner Bezirk Dahlem. Erst nach dem Mauerfall konnte in den 1990er Jahren mit der Zusammenführung der Sammlungen begonnen werden. Es galt nach über 45 Jahren, die Sammlungen, Objekte, Forschungsarbeiten, aber auch die Mitarbeiter*innen aus Ost und West zusammenzubringen. Eine Ausnahme davon bildet das Münzkabinett, das auch während der deutschen Teilung im Bode-Museum verblieben war. Seine Bibliothek befindet sich weiterhin in Russland.
Am Ende des Zweiten Weltkriegs war das Museumsgebäude schwer beschädigt. In den folgenden Jahren wurde es provisorisch instand gesetzt. Dennoch konnte eine jahrelange Durchfeuchtung, die erhebliche Schäden am gesamten Gebäude anrichtete, nicht verhindert werden. Nach der deutschen Wiedervereinigung wurde von 1998 bis 2006 eine Generalsanierung (PDF, 237 KB) des Bode-Museums mit der originalgetreuen Rekonstruktion von Decken und Fußböden durchgeführt. Seit den 1990er Jahren gab es Pläne für die Zusammenführung (PDF, 237 KB) der Gemäldegalerie und der Skulpturensammlung. Diese Pläne sind allerdings gescheitert: Bis heute befindet sich die Gemäldegalerie auf dem Kulturforum, wenngleich 200 Gemälde in die Dauerausstellung des Bode-Museums integriert sind.