Dopo la morte del Soldati il progetto passò nelle mani dell’architetto Vittozzi (1610).
Nel 1621 il Duca si rivolse al Papa affinché consentisse ai cappuccini di avere una chiesa più idonea di quanto la regola prescrivesse all’ordine e soltanto il 22 ottobre 1656 la chiesa poté essere consacrata.
Nel 1802 l’occupazione napoleonica, portò alla soppressione del convento. In seguito i Cappuccini ripresero possesso del sito, ma nel 1866/1867 i religiosi furono nuovamente allontanati. Nel 1900 il Comune restituì il convento ai frati dandolo in affitto.
Nell’ultimo conflitto mondiale il convento fu seriamente danneggiato mentre la chiesa ne uscì quasi indenne.
L’interno è a croce greca con cupola esterna e sull’altare maggiore troneggia la “Gloria” dedicata alla Madonna.