La Passio S. Erasmi di Gelasio II narra che S. Probo aveva curato la sepoltura di Erasmo in una fossa. All’indomani dell’editto di Milano (313) la diocesi formiana, al posto della prima sepoltura, costruì un martyrium a pianta absidata con altare.
La cattedrale fu meta di pellegrinaggi continui sulla tomba del santo. Dell’VIII secolo è la decorazione artistica carolingia con l’erezione di una cappella a fianco alla chiesa di S. Erasmo, decorata di stucchi.
Nel 1599 la chiesa fu eretta a parrocchia. Al temine di venticinque anni di restauro, il tempio è stato riportato alla sua struttura rinascimentale. La facciata è preceduta da un atrio porticato. L’edificio è a tre navate, prive di transetto.