Ein Vorgängerbau wurde vermutlich bereits um 753 hier errichtet und erstmals 860 als „Santa Maria ad Carantanum“ erwähnt, weshalb das Bauwerk als eine der ältesten Kirchen Kärntens gilt.
Bis 945 diente die Kirche dem Bistum Salzburg als Urpfarre, weshalb sie noch heute als „Dom“ bezeichnet wird. Auch die Tradition, dass der Bischof von Gurk zugleich Probst von Maria Saal ist, hat sich bis heute gehalten.
Die Marienkirche, wie das Bauwerk auch genannt wird, spielte im Hochmittelalter eine wichtige Rolle in den Zeremonien, welche die Kärntner Herzogseinsetzung umgaben. Zwischen der Installation des Herzogs am Fürstenstein und der Huldigung am Herzogstuhl, fand hier das kirchliche Hochamt statt.
Von der ursprünglich karolingischen und romanischen Kirche sind nur noch unterirdische Reste erhalten. Im Laufe des 15. Jahrhunderts wurde der Bau von Grund auf im spätgotischen Stil umgebaut. Ab 1463 erhielt die Kirche einen Burgfried und wurde angesichts der drohenden Gefahr durch die Türken durch umfangreiche Wehranlagen, welche heute noch gut erhalten sind, befestigt.
Die Inneneinrichtung wurde Mitte des 17. Jahrhunderts teilweise barockisiert. Bei einem Großbrand am 4. November 1669 wurde das Dach, sämtliche Glocken und der Hochaltar zerstört, aber bereits fünf Jahre später war der Wiederaufbau Großteils vollendet und 1714 der neue Hochaltar fertiggestellt.
