Le premier lieu de culte, dédié à l'apôtre Jean, aurait été fondé au 7e siècle sur une voie romaine traversant les marais de la basse vallée de l'Orne ; cet axe reliait Bayeux à Lisieux. L'église est mentionnée pour la première fois en 1059 dans la charte de fondation de l'abbaye Saint-Martin de Troarn.

Très endommagée pendant la guerre de Cent Ans surtout pendant le siège de 1417, l'église est reconstruite au xve siècle (portail, tour-porche et nef) et xvie siècle (abside et chœur). Pendant la bataille de Caen en 1944, l'église est sérieusement endommagée, mais s'élève toujours au milieu des ruines. Pendant la Reconstruction, elle est restaurée.

Cette église est la tour de Pise de Caen ; il est en effet difficile de ne pas voir son air penché. La tour-porche s'incline en effet au nord-ouest (2,28 m en 1700) car l'église a été construite sur un sol marécageux au sein de l'île Saint-Jean. C'est la raison pour laquelle elle n'est pas terminée.