Il palazzetto neogotico che si affaccia su via Ulisse Dini conserva i resti della chiesa dei SS. Felice e Regolo. L’edificio è frutto di una ristrutturazione di fine ottocento, con cui ha assunto le forme neogotiche, e dei restauri della seconda metà del XX secolo che hanno rimesso in vista le colonne e i capitelli dell’originaria loggia medievale.
La chiesa, attestata a partire dal 1070, sorgeva all’interno della cerchia muraria tardoantica nei pressi della porta detta del Visdomino. Si configurava come una chiesa del tipo a loggia aperta su tre lati. Le colonne e i capitelli che si affacciano su via Dini sono elementi di reimpiego da edifici romani.
I capitelli, datati all’inizio del III secolo d.C., probabilmente opera di maestranze di origine orientale, provengono da un edificio di culto e raffigurano la triade alessandrina (Arpocrate Iside Serapide), a sinistra, e la triade capitolina (Giove Minerva Mercurio) a destra. Altri due capitelli, di tipo composito, sono invece della seconda metà dell’XI secolo, coevi alla costruzione della chiesa.
Forse già prima del XV secolo furono chiuse le arcate della loggia e fu rialzato il suo livello pavimentale; altri restauri furono compiuti nel XVII e nel XVIII secolo, quando l’edificio venne sopraelevato e consolidato. Nel 1785 la chiesa fu soppressa e la loggia fu utilizzata come magazzino, mentre nel 1864 l’edificio fu acquistato dalla Cassa di Risparmio di Pisa che vi installò i propri uffici.
Un affresco trecentesco con la Maddalena è conservato nella sede centrale della Cassa di Risparmio di Pisa (piazza Dante), mentre la tavola raffigurante la cosiddetta Madonna degli Orafi, attribuita a Turino Vanni e datata alla fine del XIV, probabilmente in origine collocata su un altare della chiesa, è visibile al Museo di S. Matteo.