In die ehemalige Stiftskirche der Augustiner-Chorherren gelangt man durch ein großes Portal, das zunächst in einen Innenhof der weitläufigen Stiftsgebäude führt. Außen rot-weiss gestrichen, sind im Inneren Gewölbe und Kuppeln mit farbenprächtigen Fresken bedeckt, geschaffen von Matthias v. Görz. Dargestellt sind u.a. die 4 Kirchenväter, die Himmelfahrt des Hl. Veit, Marias und des Hl. Augustinus, Engelsturz und Engelchor. Nach dem Vorbild von St. Peter in Rom erbaute man die Kirche 1701-1712. Wie dort enden Querschiffarme und Chor in einer halbrunden Apsis, die jeweils mit einer Konche abschließt, die Vierung darüber ist überwölbt von einer Tambourkuppel. Die Farbigkeit setzt sich fort in den Emporen und Seitenkapellen der Langhauswände. Chorgestühl, Orgel und reich geschmückte Kanzel sind ebenfalls aus dem 18. Jh.

Die Ausstellungen geben Einblick in die Geschichte Hartbergs zur Römerzeit.

Die im 14. Jh. erbaute Kirche ist weithin sichtbar durch ihre erhöhte Lage auf einem nach 3 Seiten steil abfallenden Berg. Ungewöhnlich ist die Raumaufteilung. Der tief gelegene, dreischiffige Vorraum geht über in das mit 17,5 m recht hohe, zweifschiffige Langhaus, wird am Schluß durch die 4 Pfeiler um den Altar wieder dreischiffig und endet in einem Chorumgang. Das komplexe Gefüge belebt den Raumeindruck und macht das Gebäude zu einem bedeutenden Repräsentanten der steirischen Gotik, verursacht möglicherweise durch den beengten Bauplatz. Das Westportal hat reiches Maßwerk und Blendarkaden. Nach einem Brand 1674 wurde der Turm erneuert und die Inneneinrichtung barockisiert. Im wuchtigen, barocken Hochaltar befindet sich das Gnadenbild aus dem 15. Jh. An den Chorwänden ist die kunstvolle gotische Steinmetzarbeit zu sehen.