L’église St-André-Hors-la-Ville se trouvait sur la partie haute de la place Cauchoise actuelle. De nos jours, seule la rue St-André toute proche en garde un souvenir.
En 1027, le duc de Normandie Richard III aurait donné à l’abbaye de Jumièges l’église St-André et trois maisons dans le faubourg. Il s’agit certainement de l’église St-André-de-la-Ville (ou aux-Fèvres).
Selon Jacques Le Maho, cette église aurait été dédoublée au XII^e siècle lors de l’établissement de l’hôtel de cette abbaye près du coin nord-ouest de la nouvelle enceinte, à proximité de la porte Cauchoise.
Dans le pouillé d’Eudes Rigaud (1248), l’église est mentionnée comme sancti Andrea extra portam, autrement dit « hors la porte (Cauchoise) ». Elle était bien en dehors de la ville, vraisemblablement à l’emplacement de ce qui deviendra à la fin du moyen âge la porte Cauchoise. La destruction des édifices sub-urbains lors de la guerre de cent ans amena certainement son démantèlement et la construction de la nouvelle porte Cauchoise (XV^e-XVI^e siècle) fut la cause de son report un peu plus au nord sur un terrain acheté par les trésoriers de la paroisse.

C’était le centre d’une petite paroisse de 80 âmes au XIII^e siècle dont l’emprise s’étendait à la fois intra muros pour une faible part et extra muros pour l’essentiel.
En 1562 l’église fut pillée par les Huguenots.
Un rapport que l’architecte rouennais Jean-Pierre Defrance dressa le 20 avril 1728 permet de connaître le détail des travaux exécutés au début du XVIII^e siècle.
Aucune représentation fidèle de l’église ne nous est parvenue. L’examen d’un plan de la fin du XVIII^e siècle permet seulement d’affirmer que St-André-hors-la-Ville présentait un chœur avec une abside circulaire ainsi qu’une simple nef sans transept. Apparemment, ce vaisseau principal était doté d’un unique collatéral au sud. C’était une église modeste et dépouillée. Son entrée principale donnait sur la place.
Supprimée en 1791, l’église, son presbytère et quelques boutiques donnant sur la place furent vendues aux enchères le 25 mai 1793 pour une somme de 40.000 livres. De la Querrière signale sa destruction dès 1834. Les derniers vestiges disparurent en 1854.
Malgré toutes ces destructions, l’ancienne cave gothique persista sous les constructions nouvelles. Au début du XIX^e siècle, une brasserie de cidre occupait l’intégralité du site et constituait l’un des cafés du quartier. En 1949, transformée en une petite salle de spectacle accueillant 72 personnes, l’ancienne cave qui abritait la réserve de l’ancien débit de boisson fut dénommée “Théâtre Bovary”. Réaménagés en 1964 en discothèque par Jacky Gaillard, l’animateur des nuits rouennaises des années soixante, ces sous-sols de la place Cauchoise furent connus sous le nom des “Oubliettes”. Ils sont désormais aménagés en salles de restaurant d’un célèbre établissement rouennais de poissons.