Tot i que l’Arxiu funciona com a tal des de l’Edat Mitjana, no serà fins al 20 de març del 1979 que el Ple de l’Ajuntament crea l’Arxiu Històric Municipal d’Elx i aprova la seua ubicació a l’antic Hospital de Sant Josep (convent franciscà desamortitzat).

La preocupació del Consell per l’Arxiu queda reflectida des del principi en els Llibres d’ordinacions on s’arrepleguen les primeres disposicions per a l’agrupació dels fons, l’ordenació i l’adequació del local destinat a arxiu. Tenim notícies que el primer inventari el van realitzar, el 1660, Antonio Siuri i Gaspar Pérez de Sarrió, encara que els que conservem són de data posterior. El 1729, l’escrivà Carlos Gracia escriu un memorial al Cabildo per dir que des de l’abolició dels furs havia augmentat el treball en l’arxiu considerablement en haver de formar “padrones de equivalente, sal y listas de su cobranza con muchas otras cosas”, per la qual cosa uns anys després va ser nomenat el primer arxiver d’Elx: Ignacio Ruiz de Lope. L’arxiu major estava tancat amb tres claus: «una se entregaba al alcalde primero, la otra al señor regidor y la tercera al archivero». L’arxiu, a banda de custodiar els documents, guardava també els vestits i la resta d’utensilis per a La Festa.

La documentació que ha arribat a nosaltres ha superat saquejos, guerres i despreocupació municipal en diferents èpoques. Durant la Guerra de Successió es van cremar les Cases Capitulars i es va destruir la unitat de l’arxiu. El 1837, la Facció Forcadell va assaltar l’Ajuntament emportant-se’n documentació.

A pesar de les vicissituds, l’arxiu és hui un dels més rics de la Comunitat Valenciana, sens dubte, gràcies a la tasca de Pere Ibarra. Aquest va ser contractat per a fer-se càrrec de l’arxiu que patia condicions d’abandonament, entre altres coses perquè part de la documentació va ser venuda per a pagar obres municipals. També es va fer càrrec de l’arxiu de protocols notarials. Ell va deixar un sistema d’organització dels documents que perdura encara.

L’Arxiu no sols arreplega la documentació que produeixen les oficines municipals, sinó que actua com a centre de patrimoni documental i, al llarg de la seua història, ha vist incrementar els seus fons amb documents procedents d’unes altres institucions o particulars.