L'Archivio Biblioteca Capitolare di Altamura viene istituito il 28 agosto 1872 su proposta del canonico Vincenzo Chierico con l'intento di fornire un valido apporto al mondo ecclesiastico.
Il fondo di partenza è quello donato al Capitolo due secoli prima dal prelato della chiesa palatina di Altamura, mons. Alessandro Effrem di Bari.
La storia dell'Archivio ha affiancato la storia della Biblioteca. 
Nel 2008, l'Archivio della Prelatura di Altamura è stato dichiarato di notevole interesse storico dalla Soprintendenza Archivistica per la Puglia. 
Oggi nella sua nuova sede, inaugurata nel maggio 2023, è conservato il materiale d'archivio e viene data la possibilità a studenti e ricercatori di postazioni per lo studio.