La iglesia y el monasterio anexo, pertenecientes a las monjas Benedictinas, fueron reconstruidos sobre los cimientos de un templo precedente a partir del año 1027 aproximadamente. La iglesia fue ampliada en el siglo sucesivo, pero luego fue parcialmente demolida en torno a 1350. Tras ser castigada por un incendio en 1607, fue reestructurada y reducida a su longitud original, quedando dividido el espacio reservado a las monjas de aquel destinado a los fieles.
A principios del siglo XVIII se renovó completamente la decoración de la iglesia. Las intervenciones decorativas más importantes se deben a los hermanos Melani: la bóveda decorada con el fresco de la Gloria de San Mateo, las falsas estatuas monocromas en la contrafachada, los óvalos pintados a los lados del altar mayor que representan la Muerte de San Benedicto y el Éxtasis de San Benedicto. Con la supresión de las órdenes religiosas, San Mateo se convirtió en parroquia.
A lo largo de los siglos, el complejo monástico ha sufrido daños por los continuos aluviones del río Arno, a los que suman los ocasionados por el último conflicto mundial (se destruyó la bóveda decorada con frescos de la iglesia de las monjas).
Gracias a las excavaciones realizadas en 1947 ha sido posible hallar los restos de los ábsides de la iglesia original a unos dos metros por debajo del nivel actual. También en el exterior, en el lado derecho, en el cuerpo absidal y en el campanario, se reconocen las formas románicas. Pasando a través del Museo de San Mateo también se puede acceder al claustro medieval, retocado en el siglo XVI y hoy incorporado en las estructuras del museo.
De la decoración antigua que ya no está presente cabe recordar la monumental cruz con el Christus patiens de principios del siglo XIII, actualmente conservada en el Museo de San Mateo. En cambio, en el primer altar de la pared izquierda se conserva todavía un crucifijo del siglo XIII, cuya cabeza se ha vuelto a pintar.