A templomot gróf Vitzay Mihály építtette 1777-ben. Oltárképe Péter apostol harmadik utóda, a 101-ben vértanúságot szenvedett Kelemen pápa megdicsőülését ábrázolja. A festmény Franz Anton Maulbertsch vagy egy tanítványa alkotása. A képen Kelement felhők emelik a Krisztust jelképező Bárány felé. Körülötte angyalok, a pápaság jelvényei, valamint egy körmenet résztvevői láthatók. Ezek az emberek egy vízzel körülvett templom mellett állnak, és tekintetüket a szentre emelve közbenjáró segítségét kérik.
A Duna áradásától gyakran veszélyeztetett lipótiak is annak a Szent Kelemennek az oltalmában bizakodtak, akinek élete és vértanúsága egyaránt a vízzel kapcsolatos. Kelemen pápát a hagyomány szerint Traianus császár a Krím-félszigetre száműzte, ahol egy márványbányában rabszolgaként dolgoztatták. A kényszermunkára ítélt társaival együtt sokat szenvedett a szomjúságtól. Közös imájukra válaszul Kelemen – a látomásában megjelent Jézus által mutatott helyen – bővizű forrást fakasztott, mire a környék megrendült lakói megkeresztelkedtek. Amikor ez a császár tudomására jutott, elrendelte, hogy kössenek követ Kelemen nyakába és fojtsák a tengerbe. A szent teste nem maradt a hullámsírban: a tenger visszahúzódott, hogy a hívek a holttestét kivihessék a szárazra.