Die Kirche aus dem 12. Jhd., offenbar mit einem viereckigen Turm mit Zeltdach, stürzte 1578 ein.
Abt Theobald Werlin vom Kloster Rheinau liess daraufhin auf Betreiben des Zürcher Rates einen nachgotischen Neubau errichten, der die Fundamente der Vorgängerkirche mit den drei Apsiden übernahm. Dieser Neubau war nur für die Protestanten von Rheinau bestimmt.

Der folgende Abt, Gerold I. Zurlauben, erreichte, dass auch die Nutzung durch Katholiken wieder erlaubt wurde. Er baute 1609 Sakristei und Beinhaus. 1636 wurden unter Abt Eberhard III. von Bernhausen drei Altäre in den Apsiden geweiht und Glocken gestiftet. Der Laienfriedhof wurde bei der Kirche eröffnet.

Im 19. Jhd. wurde der gotische Dachreiter durch einen hölzernen Turmaufsatz ersetzt.

Nach mehreren Renovationen (1925, 1971) musste die Kirche nach dem Blitzschlag-Brand vom 6. August 2004 komplett restauriert werden. Am 2. April 2006 konnte sie mit einem ökumenischen Gottesdienst wieder eingeweiht werden.

Der Drei-Apsiden-Chor von Osten. Die Apsiden sind gemäss dem Grundriss der romanischen Kirche wiedererrichtet worden.