À l’emplacement exact de l’Église Saint-Pierre de Montmartre se sont succédé plusieurs monuments sacrés. C’est ainsi que l’Église Saint-Pierre de Montmartre voit le jour en 1134, ce qui en fait la seconde église la plus ancienne de Paris, après Saint-Germain-des-Prés. On trouvait autrefois, en lieu et place de cette église, une basilique mérovingienne édifiée en l’honneur de Saint-Denis dont il subsiste toutefois quelques traces comme cinq chapiteaux d’origine et quatre colonnes de marbre.

Le roi Louis VI, dit Louis le Gros, décide alors l’édification de cette église romane alors très délabrée, qui sera reconstruite dans un style gothique primitif. Dans le même temps, la reine Adélaïde de Savoie fonde une abbaye de moniales bénédictines au sud de l’église, connue comme l’abbaye royale de Montmartre. L’église devient ainsi paroissiale et abbatiale à la fois. Malgré son aspect de petite paroisse de village, Saint-Pierre de Montmartre se retrouve intégré à un vaste ensemble monastique de 13 hectares, où l’abbesse détient un pouvoir de justice sur les habitants de Montmartre. Surtout, elle possède de nombreux vignobles

Suite à la Révolution Française, l’Église Saint-Pierre menace même de s’effondrer ! Incorporée dans les frontières de Paris en 1860, en même temps que tout la commune de Montmartre, elle est interdite d’accès fin 18e.
L’église profite d’une campagne de restauration s’achevant en 1905, sous la houlette de Louis Sauvageot : l’Église Saint-Pierre de Montmartre demeure une église paroissiale active à ce jour.