Der Standort wird erstmals 1217 urkundlich als Platz des „Haus der Prueder des Ordens von Sand Johannis“ erwähnt, noch bevor hier ein Kirchenbau stattfand.
Die Johanniter ließen sich vermutlich nach dem vierten Kreuzzug (1204) hier nieder, da Wien nicht nur für Kreuzzügler an einer wichtigen Straße nach Osten lag, sondern auch an einer wichtigen Handelsroute.
Um 1265 wird eine dem hl. Johannes dem Täufer geweihte Kapelle erbaut und 1446 die heutige Kirche errichtet. Im 17. Jahrhundert wurde der gotische Bau barockisiert und erhielt im 19. Jahrhundert seine heutige integrierte Fassade, als die beiden Nachbarhäuser errichtet wurden.
Das schlichte Innere zeigt noch die ursprünglichen gotischen Züge und wird dominiert vom klassizistischen Denkmalrelief für den Großmeister Jean ‚Parisot‘ de La Valette.
