El palacete neogótico que se asoma a Via Ulisse Dini conserva los restos de la Iglesia de los Santos Feliz y Régulo. El edificio es fruto de una reestructuración de finales del siglo XIX, gracias a la cual ha asumido las formas neogóticas, y de las restauraciones de la segunda mitad del siglo XX, que han vuelto a dejar a la vista las columnas y los capiteles de la galería medieval original.
La iglesia, atestiguada a partir del año 1070, surgía dentro del círculo amurallado de la época tardo-antigua cerca de la puerta llamada del Vídamo. Se configuraba como una iglesia con galería abierta en tres lados. Las columnas y los capiteles que se asoman a Via Dini son elementos reutilizados de edificios romanos.
Los capiteles, de principios del siglo III d.C., probablemente obra de maestros orientales, proceden de un edificio de culto y representan la tríada alejandrina (Harpocrates, Isis y Serapis) a la izquierda y la tríada capitolina (Juno, Minerva y Júpiter) a la derecha. En cambio, otros dos capiteles, de tipo compuesto, son de la segunda mitad del siglo XI, contemporáneos a la construcción de la iglesia.
Posiblemente ya antes del siglo XV se cerraron las arcadas de la galería y se realzó el nivel de su pavimento. Otras restauraciones se llevaron a cabo en los siglos XVII y XVIII, cuando el edificio se elevó y se consolidó. En 1785 se suprimió la iglesia y la galería fue utilizada como almacén, mientras que en 1864 el edificio fue comprado por la Cassa di Risparmio di Pisa, que instaló allí sus propias oficinas.
Un fresco del siglo XIV con La Magdalena se conserva en la sede central de la Cassa di Risparmio di Pisa (Plaza Dante), mientras que la mesa que representa a la llamada Virgen de la Orfebrería, atribuida a Turino Vanni y de finales del siglo XIV, probablemente colocada originariamente en un altar de la iglesia, puede apreciarse en el Museo de San Mateo.