El Concejo de Teruel tiene sus orígenes en el reinado de Alfonso II, se caracteriza por una gran autonomía en su gobierno municipal y por recaer su jurisdicción sobre un amplio territorio. Al final del siglo XIII el dominio del Concejo abarca casi un centenar de aldeas y pueblos, que forman parte de su término municipal. La máxima autoridad era el Juez, que, ayudado por los alcaldes, administraba justicia, convocaba la Asamblea, recaudaba los impuestos, mantenía el orden público, etc. Jerárquicamente le seguía el escribano del Concejo encargado de guardar el sello.
La existencia de un inventario de escrituras realizado en el siglo XV confirma la temprana formación del Archivo Municipal de Teruel. Tradicionalmente instalado en la Casa Consistorial, han sido en parte acontecimientos extraordinarios los que motivan que en la actualidad su Sección Histórica se encuentre en el Archivo Histórico Provincial de Teruel.
Con posterioridad, la recopilación de las Ordinaciones de la ciudad impresa en 1655 hace mención del Archivo como lugar donde se conservan los privilegios de la ciudad, y recalca que "dicho Archivo tenga tres llaves con diferentes guardas y cerraduras".
Muy de principios del siglo XIX es el "Alcorán o Libro Verde", en el que se recogen acontecimientos y noticias curiosas de la ciudad. Sus cincuenta últimas hojas están dedicadas a describir la riqueza documental de su Archivo Municipal.
La Guerra Civil, el incendio del ayuntamiento en 1941 y una grave sustracción acaecida en los años inmediatamente posteriores acarrearon graves pérdidas documentales, solo en parte restituidas posteriormente.
El 13 de febrero de 1988 el Pleno del Ayuntamiento de Teruel acuerda trasladar en depósito toda su documentación histórica, descrita en el Catálogo de Archivos Municipales Turolenses IV, junto con 48 documentos sueltos que no figuran en dicho catálogo, a las instalaciones del Archivo Histórico Provincial de Teruel.