L’origine dell’Archivio risale al decreto del 22 ottobre 1812 di Gioacchino Murat e alla legge organica degli Archivi del Regno del 12 novembre 1818, che istituiva gli Archivi provinciali del Mezzogiorno. Inizialmente la sua sede era presso l'Ospedale degli Svizzeri, mentre nel 1831 fu trasferito nel palazzo dell'Intendenza e, circa un secolo dopo nel palazzo della Provincia di Bari.

L'Archivio custodisce circa 54.008 documenti cartacei, buste, pacchi, registri, e novantacinque pergamene dei secoli. XV-XIX.
Fu istituito nel 1954 come sezione di Archivio di Stato; diviene Archivio a tutti gli effetti nel 1963, in seguito al DPR n. 1409 che dispose l'istituzione di un Archivio di Stato in ogni capoluogo di provincia.

L’Archivio fu istituito nel 1818 con la denominazione di Archivio provinciale di Capitanata ed ebbe come archivio supplementare quello di Lucera, nel quale erano conservati i documenti delle magistrature giudiziarie, che per la provincia di Capitanata avevano sede a Lucera, mentre gli organi amministrativi avevano sede a Foggia.

L'Archivio nasce come naturale trasformazione dell’Archivio provinciale di Terra d'Otranto, istituito nel 1812, ma effettivamente funzionante solo dopo un ventennio. Questo periodo di inattività determinò la dispersione di gran parte della documentazione riguardante la contea di Lecce, il principato di Taranto, nonchè gli atti prodotti da magistrature dei secoli XV-XVIII.