Die reichen Bestände des Museums gehen zurück auf die Sammeltätigkeit des hohenzollerischen Landeskonservators Wilhelm Friedrich Laur ab dem Jahr 1896. Neben Laur war es der hohenzollerische Archivar Karl-Theodor Zingeler, der hauptsächlich beim Bau der Hohenzollerischen Landesbahn zahlreiche vorgeschichtliche Funde entdeckte.
Die Sammlung wurde ab 1920 auf der Burg Hohenzollern ausgestellt und im Laufe der Jahre stetig erweitert. Mit der Auflösung des hohenzollerischen Landeskommunalverbandes im Jahr 1972 gelangte die Sammlung in den Besitz der Stadt Hechingen und wird seit 1974 am heutigen Standort im Alten Schloss in Hechingen ausgestellt.
Die Sammlung umfasst Stücke von der Altsteinzeit bis zum heutigen Tag. So befindet sich das bekannte, außerordentlich reich bestückte bronzezeitliche Doppelgrab aus Gammertingen hier in der Ausstellung. Es stammt aus der Zeit um 1000 v. Christus und wurde 1927 entdeckt. Die kirchliche Kunst ist durch zahlreiche Skulpturen und Gemälde vertreten. Zu nennen wären hier der so genannte Laizer Apostel (um 1330) oder die berühmten Kreuzwegstationen des Bildhauers Joachim Taubenschmid (Ende 16. Jh.). Darüber hinaus werden auch Alltagsgegenstände und Portraits der hohenzollerischen Grafen und Fürsten sowie Möbel und Folterinstrumente präsentiert.
Am 11. März 2005 wurde die neue Dauerausstellung zur Hohenzollerischen Geschichte im generalsanierten Alten Schloss eingeweiht. Ein Sonderausstellungsbereich wird für wechselnde Ausstellungen genutzt, es finden Vorträge und Veranstaltungen für Groß und Klein statt.
