Parafia pw. Św. Piotra i Pawła powstała prawdopodobnie w XII w. W połowie XIII w. Rogalici uposażyli kościół. Na początku XV w. wieś przeszła w ręce Prawdziców z Gulczewa, a od końca XV do XVIII w. należała do rodziny Lasockich.

Pierwsza wzmianka o kościele zachowała się dopiero z końca XIV w. Wizytacja z 1599 r. podała, że drewnianą świątynię około 1540 r. konsekrował biskup płocki Mikołaj Bruliński. Uległa ona zniszczeniu podczas wylewu Wisły w 1619 r.


Fundatorem obecnego, drewnianego kościoła, był w 1620 r. Marcin Lasocki. Obiekt ten był kilkakrotnie naprawiany, m.in. w 1775 r. staraniem Wojciecha Józefa Nakwaskiego oraz w 1824 i 1901 r. Jest to drewniana budowla orientowana, konstrukcji zrębowej, wzmocnionej lisicami, oszalowana, na kamiennej podmurówce. Nawa na planie zbliżonym do kwadratu z węższym i niższym prezbiterium.

Świątynia wyposażona jest w barokowy ołtarz główny oraz dwa ołtarze boczne. W połowie XIX w. siedzibę proboszcza przeniesiono do Kępy Polskiej, wsi leżącej na krańcu parafii, nad rzeczką Mołtawą, przy jej ujściu do Wisły. Wieś była własnością Kępskich, potem Kossobudzkich, Lasockich, od 1763 r. Nakwaskich, a od 1935 r. Szymanowskich. Około 1700 r. w Kępie, w domu nad Wisłą, miała ukazać się Matka Boska. Dom ten zamieniono na kaplicę, a następnie w 1728 r. wybudowano drewnianą dużą kaplicę, która przetrwała do 1784 r.

Obecny, murowany z cegły kościół pw. św. Klemensa, został wzniesiony w latach 1785-1786 z fundacji Klemensa Nakwaskiego, podkomorzego wyszogrodzkiego, a konsekrowany był w 1786 r. Przez długi czas świątynia była pod zarządem właściciela, a proboszcz z Zakrzewa jej nie administrował. Dziedzic utrzymywał przy kościele specjalnego kapelana. Nie doszło również nigdy do urzędowego kościelnego stwierdzenia dziejących się tam uzdrowień. Wyposażenie kościoła wwiększości pochodzi z końca XVII w. Ołtarz główny jest neobarokowy z fragmentami snycerskimi i rzeźbami oraz obrazem Zwiastowania NMP z XVII w. ze srebrną sukienką sprawioną w 1735 r. przez Walentego Żółtowskiego, opata klasztoru benedyktynów w Płocku. Na zasuwie jest obraz Św. Klemensa z końca XVIII w. Na uwagę zasługują nagrobki i epitafia. Za czasów ks. Jerzego Drozdowskiego kościół został odnowiony i pokryty blachą. Dalsze prace renowacyjne prowadził ks. Wojciech Hubert. W latach 1999-2000 ks. proboszcz Wojciech Brzozowski dokonał wymiany instalacji elektrycznej i malowania koŚcioła w Kępie Polskiej. Obok kościoła, na miejscu domu, w którym miały być objawienia w 1700 r., stoi drewniana kapliczka.