Der Bau der Pfarrkirche St. Jakobs erfolgte im Mittelalter. Sie bildet den Abschluss der südwestlichen Häuserreihe der Altstadt. Es wird eine Verbindung zwischen Kirche, der Stadtmauer und dem im 19. Jahrhundert abgebrochenen Obertor vermutet. 1519 fand ein Neubau statt, bei dem der Chor aber erhalten blieb. 1722 erhielt der noch der Gotik verpflichtete Bau ein barockes Aussehen. Es entstand unter anderem der achteckige Turmaufbau mit Zwiebelkuppel. In den Jahren 1980/81 wurde die Evangelische Pfarrkirche komplett restauriert.

Im Inneren der Kirche ist der Chor eines der Highlights. Dessen gut erhaltener Zustand macht klar, dass die Religion in Rheineck ein wichtiger Pfeiler der Entwicklung war. Die Kirche ist noch heute Teil des Jakobswegs.

Der angrenzende Friedhof ist höhergelegen als die Kirche. Ein spezieller Standort, wie er nicht oft anzutreffen ist. Der Weg windet sich weiter bis zur Burg hoch. Der tolle Blick über das Kirchengelände und die Altstadt machen den kurzen Anstieg durchaus lohnenswert.