Der ursprünglich als Eigenkirche errichtete Bau dürfte bereits recht früh auf den ehemaligen Grundstücken des Schlosses Gleinstätten errichtet worden sein. Zumindest ist aus dem Jahre 1136 ein Pfarrer namentlich bekannt.

Im Jahre 1381 wurde die Kirche eigenständige Pfarrkirche und war zuvor Filialkirche der Pfarre Groß St. Florian.

Das heutige barocke Bauwerk wurde 1692/93 vollendet und erhielt zwischen 1754 und 1757 seinen 36 Meter hohen Kirchturm. Der Neubau ersetzte die zuvor vorhandene desolate und zu kleine mittelalterliche Kirche.

Ende des 19. Jahrhunderts erhielt die Kirche eine neue Einrichtung im Stil der Neorennaissance. Im Zuge einer groß angelegten Innenrestaurierung wurde versucht den ursprünglich barocken Innenraum wieder herzustellen. Dabei wurde der barocke Altar der Schlosskapelle, welcher um 1740 entstand, als Hochaltar in die Pfarrkirche übertragen.

Zuletzt fand 2011 eine Außenrenovierung und Neugestaltung des Vorplatzes statt.