"Kleine Kirche" oder "Herz-Jesu-Kirche"
Die kleine spätgotische Kirche direkt neben der Pfarrkirche kann als Werk des Stadtzeugmeisters Werpacher aus Wiener Neustadt angesehen werden. Die Jahreszahl 1497, die an der Eckmauer eingemeißelt ist, dürfte der Erbauungszeit entsprechen . Das Kirchlein war ursprünglich in die Verteidigungsmauer gegen Süden hin eingefügt gewesen, war in der Pestzeit den Pestpatronen S. Sebastian und S. Rochus geweiht und war in diesen Notzeiten ein vielbesuchter Wallfahrtsort. Die Südmauer zwischen dieser befestigten Kirche und der Westmauer bis zum Rondell wurde nach 1840 ganz abgerissen, da man Platz für die erste Friedhofserweiterung brauchte. Dieses Pestkirchlein wird in Kunstführern oft fälschlich als "Karner" erwähnt. Es war jedoch nie ein "Beinhaus" sondern diente als Subkirche und verfiel im Laufe der Zeit vollständig.
Im Jahre 1783 wurde sie gesperrt und zum Abbruch verurteilt. Es kaufte sie ein hiesiger Bäckermeister um 50 Gulden und wollte die Steine als Baumaterial verwenden. Auf Bitten seiner kranken Frau ließ er von diesem Vorhaben ab und die Mauerruinen blieben erhalten.
Erst Pfarrer P. Benedikt Kluge (1878 - 1892) ließ die Kapelle großteils auf eigene Kosten stilgerecht restaurieren, sodaß sie 1885 als Herz-Jesu-Kapelle geweiht werden konnte. In den Jahren 1964 - 1968 wurde sie unter den Pfarrherrn P. Bertrand Bauer und P. Hartmar Borowan neuerlich renoviert, nicht mehr geweiht, und diente bis zum 1. November 1982 als öffentliche Aufbahrungshalle. Seither dient sie nun wieder kirchlichen Zwecken, ist aber auch ein stilvoller Rahmen für Kunst- und Gemäldeausstellungen. Sie wird in den Kunstführern wegen ihres reinen Baustils angeführt und zählt In früherer Zeit soll neben der Kirche ein kleines Haus mit einem runden Turm gestanden sein. Es wurde von den geistlichen Herren, die vor 1783 zum Meßlesen von St. Lorenzen herüberkamen, zum Abrasten und angeblich auch zum Beichthören benützt.