Maršal Marmont je leta 1802 pričel zbirati kamnite spomenike v Avgustovem hramu, kar je pomenilo začetek ustvarjanja muzejske zbirke v Pulju. Odkritje kamnitih, keramičnih in kovinskih predmetov v Nezakciju je bila osnova za utemeljitev Mestnega muzeja (Museo civivo) v Pulju leta 1902. Preselitev sedeža Societa istriana di archeologica e storia patria in prestavljanje arheološkega inventarja iz Poreča v Pulj sta povezali Mestni muzej z Državno zbirko (kamniti spomeniki) in s poreškim Pokrajinskim muzejem (Museo Provinciale) v eno muzejsko ustanovo s pokrajinskim značajem. Tako je bil leta 1925 ustanovljen Muzej Istre (Il Regio Museo dell’Istra) v današnji muzejski stavbi. Leta 1930 so bile dvorane muzeja prvič odprte za obiskovalce, hkrati pa je izšel vodnik v italijanskem jeziku. Razstava z manjšimi dopolnitvami je bila dostopna za javnost do konca druge svetovne vojne, ko so bili preneseni številni predmeti v Italijo v času angloameriške uprave.
Z manjšimi spremembami v lapidariju in s postavitvijo ostalih razstavnih predmetov je bil leta 1949 znova odprt kot specializirani Arheološki muzej Istre. Sistematično delo in precejšnji napori za vrnitev dela arheološkega gradiva iz Italije leta 1961 so postopoma pripeljali do ureditve muzejske stavbe, izdelana pa je bila didaktično-vizualna koncepcija celotnega reprezentativnega muzejskega fonda. Leta 1968 je bil odprt preurejen lapidarij v pritličnih prostorih in hodnikih muzeja. Leta 1973 je bila odprta predzgodovinska razstavna dvorana v 1. nadstropju, v 2. nadstropju muzeja pa antična, poznoantična in srednjeveška razstava.
Razstavne dvorane Arheološkega muzeja Istre se nenehno dopolnjujejo z novimi odkritji arheološkega najdišča Istre (iz predzgodovinskih jam, grajskih razvalin in nekropol, antičnih gospodarskih kompleksov, zgradb in pokopališč ter sakralnih objektov zgodnjekrščanskega in bizantinskega obdobja, časov barbarskih vdorov in naselitve slovanskega življa v Istro).