El museo tiene su sede en los ambientes del antiguo Monasterio Benedictino Femenino de San Mateo in Soarta (siglo XI), del cual actualmente, además de la homónima iglesia, se conservan solo algunos muros medievales, alterados por transformaciones en la época moderna y por restauraciones en la segunda posguerra.
Las estructuras claustrales tardo-medievales fueron realizadas en ladrillo y en ellas se abren bíforas con pequeñas columnas y capiteles casi todos originales (planta superior). El porticado fue en gran parte reestructurado en el siglo XVI, junto a otras áreas que hoy no son accesibles al público. A principios del siglo XIX se instituyó aquí un capítulo de rectorías y es probable que a este período se remonte la fachada de la entrada, de estilo neoclásico. Desde 1866 hasta 1940 fue sede de la cárcel judicial ciudadana, con importantes modificaciones estructurales.
En cambio, la transformación funcional y la restauración del complejo edilicio se remontan a los años sucesivos a la Segunda Guerra Mundial. En 1949 nació el Museo Nacional de San Mateo, ordenado por Piero Sampaolesi según criterios basados en la validez estética de las obras. En tiempos más recientes se ha preferido presentar los materiales por tipologías e intentando recomponer los complejos originales.
Actualmente el museo es sede de la colección artística más extensa de la ciudad. De hecho, conserva una conspicua cantidad de cerámicas medievales, constituida por una serie de cuencos de cerámica del área mediterránea y por jarrones medievales y modernos procedentes de varias excavaciones ciudadanas (colección Tongiorgi). En orfebrería destacan algunos objetos preciosos acompañados de una selección de monedas y sellos medievales extraídos de las colecciones Franceschi y Supino. Es muy importante la sección dedicada a los códigos miniados, que conserva ejemplares del siglo XII al XIV, remarcables por la riqueza de las ilustraciones. La colección de escultura lapídea comprende obras desde la Edad Media hasta el siglo XVI, entre las que destacan notables testimonios del período románico y las obras maestras de Nicola Pisano y Donatello. Muy nutrida es también la colección de escultura de madera y de pintura, que incluye más de doscientas obras realizadas entre principios del siglo XII y la época moderna por importantes artistas, como Giunta Pisano, Berlinghiero, Simone Martini y Masaccio, por citar algunos.