El Decreto de 8 de marzo de 1931 creaba, a nivel normativo y de manera general, todos los Archivos Históricos Provinciales.
En Jaén, las gestiones para llevar a efecto la creación la inició el funcionario del Cuerpo Facultativo, don Antonio Alcalá Venceslada, sin que se produjeran los resultados apetecidos; justificados informes negativos del por entonces Inspector General, don Miguel Gómez del Campillo, abortaron los primeros intentos.
En 1952, ya expensas del Instituto de Estudios Giennenses, se trasladaron a unos locales los protocolos notariales del distrito de Jaén y Andújar. Un grupo de becados, sin conocimientos específicos ni dirección, trataron de formalizar esa primera entrega. A raíz del nombramiento de don Melchor Lamana Navascués, funcionario del Cuerpo Facultativo de Archivos y Bibliotecas, como director del Archivo Histórico Provincial de Jaén (en adelante AHPJ) se lleva a cabo la organización científica de esos fondos en un local cedido por el Ayuntamiento en la calle Julio Ángel.
Como consecuencia de la nueva situación se recibieron los protocolos centenarios de los distritos de Alcalá la Real, Huelma y La Carolina, así como los libros de las Contadurías de Hipotecas de Andújar, La Carolina y Jaén. La Delegación del Ministerio de Hacienda transfirió su fondo histórico: Intendencia, Única Contribución, que incluye el Catastro del Marqués de la Ensenada, Colonización de Sierra Morena y Administración provincial de Rentas.
El AHPJ se trasladó en el año 1973 a la llamada "Casa de la Cultura", donde compartía edificio con la Biblioteca Pública del Estado. Nuevamente, tuvo capacidad para recibir fondos procedentes de la Comisaría de Abastecimientos y Transportes, distritos Notariales de Cazorla, Linares, Martos y Villacarrillo, Libros de Contaduría de Hipotecas de Linares, Juzgado del distrito de Jaén, Delegación de Estadísticas, y como siempre de Hacienda.
En 1977 se publica el Decreto de creación legal del AHPJ.
La precariedad de espacio obligó a depositar en el suelo la mayoría de los fondos ingresados, de ahí que no fueran accesibles. Esta circunstancia, junto al también colapso en el crecimiento de la Biblioteca del Estado, lleva al Ministerio de Cultura a buscar nuevo y definitivo edificio para el AHPJ. Las gestiones culminaron en la cesión del uso del Real Convento de Santa Catalina Mártir, de la orden de Santo Domingo, propiedad de la Excma. Diputación Provincial.
Del conjunto de convento e iglesia, declarado Bien de Interés Cultural y ubicado en el casco antiguo de la ciudad, fue rehabilitado el edificio correspondiente al convento, por el arquitecto don Luis Berges Roldán.
Se cumplían con el proyecto dos fines, recuperar un edificio emblemático de la ciudad y dotar a Jaén de un archivo de 7.089 metros cuadrados, de los cuales 2.515 corresponden a depósitos que lo capacita para más de 12.000 metros lineales de estantería abierta.
El traslado y su inmediata puesta en funcionamiento se realizó en julio de 1989, si bien de manera oficial fue reabierto el día 30 de noviembre del mismo año. Desde esa fecha, el AHPJ ha triplicado sus fondos, siendo efectiva su coordinación con los organismos de toda la Administración Pública. Es gestionado por la Comunidad Autónoma de Andalucía, aunque la titularidad del Archivo y sus fondos pertenecen al Estado.