L’existence d’un premier lieu de culte chrétien est attestée à cet endroit dès l’époque mérovingienne, mais il faut attendre le 11e siècle pour voir apparaître le vocable de Saint-Germain l’Auxerrois. Saint Germain y aurait rencontré Sainte Geneviève au 5e siècle.

L'église a été par la suite plusieurs fois reconstruite. Elle aurait été incendiée en 886 lors des invasions par les Normands puis rebâtie par Robert le Pieux au 11ᵉ siècle. Du 13e siècle jusqu’au 16e siècle, l'église sera agrandie.

Au 13e siècle, les travaux ont continué avec la construction de la façade dont la porte d'entrée centrale à double vantaux était alors ornée d'un tympan sculpté représentant le Jugement dernier. Il ne reste aujourd'hui plus que les trois rangées de voussures de cette époque. Le chœur est daté du 14e siècle (1340-1358).
Ce n'est qu'après la Guerre de Cent ans que les travaux reprirent. En 1476, les paroissiens décident de construire la nouvelle nef. Le chantier se prolonge ensuite avec les constructions des bas-côtés, et les chapelles de la nef. Le porche monumental qui protège l'entrée aurait été construit au 15e siècle par Jean Gaucel. Il est magnifiquement décoré de sculptures dont certaines sont encore en place.
A l'aube du 16e siècle, on construit les chapelles autour du chœur et le transept. Le transept nord fut édifié par Jean Moreau et Louis Poireau sous le règne de Louis XII. Quant au bras sud du transept il est achevé vers 1530 sous la direction de l'architecte Louis Poireau. Les vitraux qui les décorent sont réalisés dans les mêmes années par Jean Chastellain.

A la suite des événements révolutionnaires, l'église est fermée au culte en 1793 puis transformée en fabrique de salpêtre. A partir de 1795, le clergé catholique constitutionnel rétablit la célébration du culte dans l'église. Elle fut rendue au culte catholique avec le Concordat de 1802.
L'église fut saccagée en 1831 par des partisans anti-légitimistes à la suite d'un service funèbre donné pour le repos de l'âme du duc de Berry, deuxième fils de Charles X (assassiné le 13 février 1820). A la suite de cet événement, au cours duquel les partisans s'en prirent également à l'évêché qui fut pillé, l’église dû être entièrement fermée jusqu'en 1845.

Saint Vincent

Saint Germain

Saint Jacques

Saint Denis