好几章是讨论圣礼神学的，其中有一章绪论(第四卷第十四章)。为求充实奥古斯丁对圣礼所下的简短定义––圣礼“为无形恩典之有形形式”，加尔文说：圣礼“为神赐恩典给我们的证据，由外在印志，和我们对他的虔敬之相互印证，加以确认。”它必须以对圣道的明晰可听的宣扬表达出来。加尔文可能同意奥古斯丁以圣礼为“有形话语”的说法；但并不说它因圣经的存在而不需要。它确证了圣经所写的，恰如印章之于某一文件。印章若打在一张无字的皮纸上就没有意义。再者，没有信的圣礼是无价值的；圣礼可助长信德。圣礼也是基督徒所以异于他人的标志，正如旗帜可以分别不同国籍的军舰。圣礼一词在旧约中应用于许多神迹上面，但基督教会的重要圣礼是洗礼和圣餐，这是基督教信仰的特征––基督徒为人认识的记号。加尔文不反对称授圣职时所行的按手礼为圣礼，但不同意使它和洗礼及圣餐同列。正如那位最杰出的教父奥古斯丁所说的：洗礼和圣餐是比旧约圣礼少数而更卓越的圣礼。把圣礼当作一种善工是误解了它的性质，因为主动的是上帝，人是被动的。
加尔文对这两种基督教圣礼都有详细讨论：先论洗礼(见第四卷第十五及十六章)。洗礼非但象征过去和一切罪过的洁净，并且是对罪死，在基督里复活的印记，又是我们和基督结连，在基督一切恩惠上有分的见证；它证明原罪––那与生俱来的原罪––之被解除。加尔文以谴责的态度反对加在按照圣经所指示的简单洗礼仪式上的那些无谓的繁文节和迷信举动。第十六章是专为卫护幼儿洗礼而作的。他认为洗礼可替代割礼––那作为有分于上帝和亚伯拉罕所立之约的印记。在这里加尔文对旧约之有永久价值的观念于无意中流露出来，这一观念以后发展成为十世纪的“契约神学”(covenanttheology)。信主者的子女若于婴儿时过世，亦可进入永生，因为相信在洗礼当中上帝亦赐恩典给活着的婴儿。关于这一点和“拣选”的关系，加尔文并不辩论。
加尔文以分为五十节的一长章(第四卷第十七章)讨论圣餐问题，另外以一章攻击天主教的弥撒。对这问题的讨论散见于加尔文的其他作品中。他的《圣餐短论》以后将讨论到。他主张圣餐的意义是“参与”，仅非纪念而已。“参与基督的身体及血为一切渴慕属灵生活者所必需。”圣灵的那超出我们所能领悟的秘密能力奥秘地把我们联系于基督的属天身体。这恩典是赐与万人的，却只有“相信的人才能享受。”上帝不会指给我们一个虚幻的记号；它所表证的(指基督的身体)是确切地临在。这并不是说由于化质的作用，实体地临在于饼和酒的原素里面。原素没有改变，如同洗礼的水没有改变一样。如果饼与酒不是真的象它们在圣礼中所被见的一样，圣礼就没有意义：就不能成为基督的“肉”的象征(见第四卷第十七章第九、十、廿四节)。加尔文以为罗马教的弥撒消灭了基督教所信的“基督之死的独特性”，因为他们把每一次的弥撒当作活祭和献给上帝的补偿，因此开了私人也举行弥撒的恶例，破坏了全体和基督的相通(见第四卷第十八章第七节)。
在第四卷第十九章加尔文检讨罗马教所守的其他五种圣礼(坚振礼、赎罪礼、涂油礼、授职礼、和婚礼)，认为是没有圣经根据的圣礼。他质问：“在什么地方上帝的话曾应许使圣灵降临于‘坚振礼’上面?”并说：真的坚振礼并非圣礼，却是好象初期教会把它当作“一种教授儿童或青年人申述信仰的答问方法”。为着这一目的，他希望普世教会能够采用一种固定程式。在论授职礼那一段，他详细批评中世纪的神甫制度，并作积极性的建议。关于婚礼，他批评罗马教的矛盾：一方面视婚姻为圣礼，另一方面把它当作肉欲污秽之事，并禁止担任教牧职务的人结婚。