Die Geschichte der Nationalgalerie beginnt mit einer mäzenatischen Tat. Als der Bankier und Konsul Joachim Heinrich Wilhelm Wagener bei seinem Tod am 18. Januar 1861 seine Gemäldesammlung dem preußischen König vermachte, verband er damit ausdrücklich den Wunsch nach einer „nationalen Gallerie“. Die Annahme der Schenkung durch Wilhelm I. gilt als Gründungsakt der Nationalgalerie. Das daraufhin angelegte „National Gallerie Inventarium A“ beginnt mit der handschriftlichen Bemerkung: „Für die Gemälde der Wagner’schen Sammlung bildet der alte (Waagen‘sche) Katalog derselben das Inventariumverzeichniß.“ Gemeint war damit das von Gustav Friedrich Waagen, Direktor der Gemäldegalerie, bearbeitete Verzeichnis der Sammlung Wagener, welches unter dem Kürzel WS geführt wurde.

Im A-Inventar sind ausschließlich Werke der Malerei aufgeführt, der erste Eintrag erfolgte am 22. März 1861. Das für Bildhauerei angelegte B-Inventar wurde am 10. Juni 1865 begonnen. Die aufeinander folgenden Inventarbücher wurden mit römischen Ziffern durchgezählt. Diese Praxis wurde auch in der Nationalgalerie auf der Museumsinsel zu Zeiten der DDR fortgesetzt, so dass bis 1991 die Inventare A I-IV und B I-III entstanden. Eine Besonderheit enthalten allerdings die Inventarbücher A III und B II: Sie dienten zunächst dazu, jene Kunstwerke, die von den Oberpräsidenten und den Regierungspräsidenten des preußischen Staates zur eigenen Nutzung erworben wurden, hier zentral zu registrieren. Und ebenso enthielten sie die vom Preußischen Minister für Wissenschaft, Kunst und Volksbildung erworbenen Kunstwerke, die zwar bei der Nationalgalerie inventarisiert, jedoch anderen Einrichtungen zur Verwendung überwiesen waren. Da solche Eintragungen nur bis etwa 1930 erfolgten, wurden die beiden Bücher später auch zur Inventarisierung von Werken im Besitz der Nationalgalerie genutzt.

Nach der Teilung Deutschlands wurde im Westen Berlins ein eigenes Inventarverzeichnis angelegt. Während in den A- und B-Inventaren eine fortlaufende Nummerierung der Werke innerhalb der Bücher erfolgte, gilt im neuen NG-Inventar die Zahlenfolge nur innerhalb eines Jahreszeitraums und beginnt dann neu (1/50 – 9/50; 1/51 – 16/51 usw.). Zudem wird nicht mehr nach Gattungen unterschieden, so dass alle Erwerbungen im selben Inventarbuch verzeichnet sind. Dieses Verfahren findet seit der Wiedervereinigung der Nationalgalerien 1992 für die Inventarisierung aller Erwerbungen der Nationalgalerie Anwendung.

Die in den Bestand der Nationalgalerie integrierten Kunstwerke aus dem Eigentum des Landes Berlin (etwa der ehemaligen Galerie des 20. Jahrhunderts) sind in einem eigenen Inventarverzeichnis des Berliner Senats erfasst und die Werke mit dem Buchstaben B (hier für Berlin) gekennzeichnet, jedoch ohne römische Ziffern im Anschluss. Separat geführt wird auch der Kunstbesitz des 1977 neu begründeten Vereins der Freunde der Nationalgalerie (FNG) und der 2005 ins Leben gerufenen Stiftung des Vereins der Freunde der Nationalgalerie (SFNG). Zu den fünf NG-Inventarbüchern gibt es drei Anhänge, in denen die Erwerbungen und Schenkungen aus dem Sammlungen Berggruen, Marzona und Flick verzeichnet sind. Werke, die sich als langfristige Leihnahmen in der Nationalgalerie befinden, sind als Fremdvermögen im Inventar F.V. eingetragen.

Historisch abgeschlossene Inventare betreffen die Bestände des Rauchmuseums (RM) und des Beuth-Schinkel-Museums (B.S.M.), der Modell- und Abgusssammlung (G für Gips), der Skulpturensammlung West (SKS) sowie der Sammlung der Zeichnungen (F I-IV), die inzwischen im Kupferstichkabinett aufbewahrt wird.