L'Istituto sorse dapprima come Sezione dell'Archivio di Stato di Firenze con D.M. 7 giugno 1941, in applicazione alla legge n° 2006 del 22 dicembre 1939; divenne Archivio di Stato a seguito del D.P.R. n° 1409 del 30 settembre 1963. Fin dal 1941, fu identificato palazzo Albergotti come sede dell'Istituto, la quale fu approntata negli anni seguenti.