Die vorgeschichtlichen Bestände führen in die frühen Kulturen und Gesellschaften von der Altsteinzeit bis zu den Anfängen der Römischen Zeit ein. Als eine der Zentralregionen Europas zeigen sich insbesondere hier die vielfältigen kulturellen Einflüsse sowie der Wandel über mehr als 300.000 Jahre Menschheits- und Kulturgeschichte.
Namengebende Fundkomplexe und einmalige Funde, wie altsteinzeitliche Venusstatuettenfragmente, herausragende Prunkbeile aus Jadeit, das außergewöhnliche bronzene Sistrum oder der einzigartige keltische Glashund, lassen diesen außerordentlichen Reichtum und die jahrtausendalte kulturelle Vielfalt lebendig werden.

Seit der Spätantike vollzog sich ein Wandel in der noch römisch geprägten Bevölkerung, die schließlich im späten 5. und frühen 6. Jahrhundert von fränkischen Gruppen abgelöst wurden. Im Zuge der fränkischen Landnahme wurde Rheinhessen weitgehend flächendeckend aufgesiedelt, wie das Gräberfeld von Selzen oder das Fürstengrab von Planig belegen.
Die Stadt Mainz entwickelte sich im Laufe der Jahrhunderte zu eine der bedeutendsten Erzbischofsstädte im mittelalterlichen Reich. Zeugnisse dieser herausragenden Bedeutung sind die Relikte des Klosters St. Alban, das karolingische Thronfragment oder die einzigartige Mainzer Adlerfibel.

Mainz war als eine der SchUM-Gemeinden ein bedeutendes Zentrum jüdischer Kultur. So wie das Christentum sich in den Domen zu Speyer, Worms und Mainz manifestiert, verbindet das Judentum die Anfangsbuchstaben genau dieser drei Städte zu dem hebräischen „Schum“ (wörtlich »Knoblauch«). Der einflussreiche Gelehrte Gerschom bar Jehuda eröffnete eine Talmudschule in Mainz, das hierdurch religiös-kultureller Mittelpunkt der SchUM-Städte wurde.
Die neuzeitlichen jüdischen Kultgegenstände, überwiegend Goldschmiedearbeiten des 18. und 19. Jahrhunderts, stammen aus der Sammlung des "Vereins zur Pflege jüdischer Altertümer in Mainz". Ein Großteil der Bestände ist der Zerstörungswut in der Pogromnacht vom 9. November 1938 zum Opfer gefallen. Ein bedeutender Teil der damals geretteten Kultgegenstände ist als Dauerleihgabe der Jüdischen Gemeinde in Mainz im Landesmuseum ausgestellt.

Mit etwa 240 Werken ist die Sammlung der niederländischen Gemälde des 16. und 17. Jahrhunderts äußerst umfangreich und ein wesentlicher Schwerpunkt der Mainzer Gemäldegalerie. Eine Besonderheit ist, dass quantitativ gleichberechtigt sowohl die flämische wie auch die holländische Malerei in ihrer ganzen Bandbreite durch alle Gattungen vertreten sind. Herausragende flämische Künstler wie etwa Jan Brueghel d. Ä. und Jacob Jordaens sind genauso vertreten wie etwa die Utrechter Caravaggisten Dirck van Baburen und Gerrit Honthorst. Auch Namen wie Salomon van Ruysdael oder Jan van Goyen zeigen die besondere Qualität der Sammlung.

Einen Schwerpunkt des umfangreichen Keramikbestandes des Museums bilden die Fayencen und Porzellane aus der Produktion der kurfürstlichen Manufaktur Höchst. Diese wurde 1746 gegründet und zählt damit zu den ältesten im deutschsprachigen Raum. Ihr Firmenzeichen ist bis heute das Mainzer Rad.
Der bekannteste für Höchst tätige Entwerfer und Modellmeister war Johann Peter Melchior. Er wurde aufgrund seiner Leistungen 1770 zum kurmainzischen Hofbildhauer ernannt. Seine Entwürfe haben wesentlich zum Erfolg der Manufaktur beigetragen.
Die Sammlung Höchster Fayencen und Porzellane zählt zu den bedeutendsten und umfangreichsten ihrer Art.

Die Jugendstilglas-Sammlung zählt zu den bedeutendsten Sammlungen dieser Art in Deutschland. Sie basiert auf der Privatsammlung des Pirmasenser Messedirektors Heinrich R. Gruber. Diese Glassammlung wird durch die Werke der „Ecole de Nancy“, mit Emile Gallé, dem wichtigsten Glaskünstler der Zeit, geprägt. Die Sammlung zeigt die ganze Fülle, einerseits der französischen Entwicklung, mit deutlichem Schwerpunkt Nancy und Lothringen, und andererseits der Erzeugnisse der deutschen und vor allem der österreichisch-böhmischen Manufakturen, sowie die des Amerikaners Louis Comfort Tiffany.

Es ist die umfangreichste grafische Sammlung des Landes Rheinland-Pfalz. Mit ca. 45.000 Blättern umfassen die Bestände Aquarelle, Handzeichnungen, Druckgrafiken, Künstlerautografen und alte Fotografien.
Ein Schwerpunkt liegt auf den Zeichnungen des 19. Jahrhunderts, besonders der deutschen Romantik. Mit zu den bekanntesten Zeichnungen gehört u.a. das Aquarell „Mainz von Süden“ (1817) von William Turner, die Federzeichnung „Lindenfels im Odenwald mit betendem Wanderer“ (um 1813) von Carl Philipp Fohr und das Aquarell „Der Hafen von Marseille (um 1930) von Paul Signac. Im Bereich Druckgrafik reicht der Bestand u.a. von Albrecht Dürer, Giovanni Benedetto Castiglione bis hin zu Camille Corot.