Il museo ebbe origine con il lascito del cardinal Domenico Grimani che nel 1523 donò alla Repubblica la sua collezione di reperti rinvenuti a Roma. La raccolta, arricchitasi nel 1587 delle sculture greche donate da Giovanni Grimani, nipote del precedente e patriarca di Aquilea, venne collocata da Vincenzo Scamozzi nell'antisala della Libreria Marciana dove continuò ad arricchirsi con ulteriori lasciti. Nel 1924 fu collocata nell'attuale sede delle Procuratie Nuove.