Aucun vestige ne subsiste de l'église primitive érigée à Romainville au 13e siècle. Celle-ci était placée sous le vocable de saint Romain, évêque de Meaux au 8e siècle, dont le nom est à l'origine du nom de la ville.
Homme influent, l'abbé Houël, soutenu par le marquis de Ségur, décide de faire réaliser la construction d'une nouvelle église pour sa paroisse. Grâce à ses relations, le marquis obtient que les plans de ce nouveau bâtiment religieux soient établis par l'architecte du roi, Alexandre Brongniart (1739-1813). Brongniart est l'auteur de nombreux bâtiments néo-classiques parisiens, tel le lycée Condorcet, l'école militaire ou la bourse de Paris.
Après la Libération, Guevel et Dory s'associent pour financer la reconstruction des verrières. Celles-ci relatent les principaux thèmes chrétiens mais aussi des épisodes de la vie de la paroisse. Ainsi, on peut y voir représentée la parabole du Bon Pasteur des Évangiles de Jean et de Luc, mais aussi l'abbé Houël rédigeant son testament en faveur de Romainville. Job Guevel a réalisé ces travaux dans un style naïf et populaire.