L’abbaye est fondée au début du VIIe siècle, par les rois mérovingiens, entre les prairies inondables de la Maine et l’ancienne voie romaine qui reliait Angers à Jublains. La dédicace au soldat martyr oriental saint Serge est due à la diffusion de son culte dès le VIe siècle en Gaule. Les premiers temps de l’histoire de Saint-Serge sont mal connus, mais deux événements ont des conséquences importantes. Le monastère passe un temps sous le contrôle des rois de Bretagne, qui y déposent les reliques de saint Brieuc (un vitrail de 1912 rappelle cet épisode).
Un peu plus tard (897-900), il est remis à l’évêque d’Angers Rainon, qui y établit sans doute des chanoines. Autour de l’an 1000, l’évêque Renaud II y installe des moines bénédictins. Sous l’abbatiat de Vulgrin (1046-1056), l’abbaye se développe, grâce à l’appui des comtes d’Anjou. A cette époque, l’église est reconstruite (et consacrée en 1059), le scriptorium* est actif et les biens du monastère sont nombreux dans l’Ouest et jusqu’en Angleterre. La prospérité de l’abbaye aux XIIe et XIIIe siècles permet la reconstruction du choeur.
Après l’édification de l’enceinte urbaine de saint Louis, Saint-Serge reste hors les murs et subit des pillages au cours de la guerre de Cent Ans et des guerres de Religion.
En 1553, l’abbaye est mise en commende (les abbés ne résident plus sur place et se contentent de toucher les revenus de leur charge). En 1629, Saint- Serge est réformé (Congrégation de Saint-Maur). En 1790, les treize moines sont dispersés. Après diverses utilisations, les bâtiments conventuels reçoivent en 1808 le séminaire diocésain. En 1907, à la suite de la Séparation de l’Eglise et de l’Etat, ce dernier reprend les lieux. Actuellement, les bâtiments abbatiaux et ceux du séminaire sont affectés au lycée Joachim-du-Bellay, l’église accueillant toujours la communauté paroissiale du quartier.