加尔文留在日内瓦后，几年来由于他作风稳健和态度谦恭，赢得了全城一致的支持和信赖。为了管理圣彼得及城内其他几所教堂，他任用8位助理牧师。他一天工作12至18小时。他的工作有布道、行政、讲授神学、主持教会和学校会议、向议会提供意见、维系公共道德、指导会众祈祷。除以上工作外，他还增订《基督教原理》、注释《圣经》及回复各地会友来信——其通信就数量而言，虽不及伊拉斯谟，影响力却远远超出伊氏。他睡得少，吃得少，并常斋戒。他的继任人，即其传记作者，西奥多·贝兹（Théodore de Bèze）说：“说来真奇怪，这么文弱的人，却能挑这么沉重的担子！”
回日内瓦后第一桩大事，就是建立新的教会。他建议小议会，指定5位教士和6位议员组成一个委员会，由他领导草拟一本《宗教法典》（Ordonnances Ecclésiastiques）。法典拟定后，1542年1月2日，由大议会核准施行。这本法典的主要内容，至今仍为欧美新教长老教会所接受。根据该法典，牧师职务分牧师、教师、长老和执事。日内瓦牧师组成“牧师团”（The Venerable Company），负责管理教会和训练预备牧师。若无牧师团许可，任何人不得在日内瓦传道。任何人想在日内瓦传道，除获牧师团许可外，尚需经由市议会和会众的同意。主教团和主教在日内瓦传道则列为禁例。日内瓦新教士阶级在加尔文的领导下，尽管他们不像过去天主教教士那么渴求权势，尽管他们放弃出任官职，但很快便变得非常强大——其强大甚至超过古代以色列的教士阶级。基督教国家的根本大法，加尔文这样规定，就是《圣经》，《圣经》的诠释者就是教士，政府应切实遵照《圣经》办事，遇有滞碍之处，应听取教士的解释。对于这点，议会中的非教职人士虽未尽表赞同，但权衡其对社会秩序与经济利益的影响，也暂不加反对。25年中，日内瓦的商人寡头政治，似乎完全受到以神权政治为标榜的教士阶级的支配。
在日内瓦，教士的权力由长老法庭（Consistory）或长老会（Presbytery）行使。长老会是由议会推举的牧师5人、长老12人组成。因为牧师是终身制，长老一年改选一次，长老法庭的大权，实际还是掌握在牧师手中。长老会可做之事甚多，如聚众礼拜、调查言行、家庭访问、询问罪犯、赦免或将罪犯驱逐出教、对驱逐出教者借议会之力将之驱逐出境等。在日内瓦，加尔文是长老会主席。自1541年至他去世（1564年），他的话在当地简直是金科玉律。加尔文能具有这样的权势，可以说与法律和力量无关，全是其个人意志和人格的结果。坚定的信仰与对工作的献身，是其众望所归的两大条件。教会对国家的胜利，若希尔德布兰特有知，相信也会感到高兴。
大权在握，教士阶级便拟定人民应遵守的宗教规则。“全家，除留一两个人照顾孩子和牲畜外，均应参加主日礼拜。非礼拜日遇有布道，凡能参加者均应参加。”（加尔文一礼拜布道三四次。）“礼拜迟到者，应予警告。警告不听，应罚3个苏。”任谁也不得以信仰其他宗教为理由，拒不参加新教礼拜。这点，剥夺个人信仰自由，加尔文比任何教皇都做得彻底。这位伟大的新教立法者，对新教萌芽时主张的，信仰应基于个人判断的原则，已视如敝屣。他亲见新教宗派林立，这也许就是他抛弃这一原则的原因。日内瓦只容许一个宗派存在，日内瓦人除信仰这一宗派外不许有别的信仰。任何人，如经常不做礼拜或拒绝接受圣礼，便属大逆不道、异端，不但亵渎上帝，而且背叛国家，这种人应予处死。惩治异端的观念是天主教发明的；现在，天主教徒在这里变成了应受惩治的对象。1542年至1564年，因触犯新教规定而被处死者58人、放逐者76人。在日内瓦和在其他地区一样，巫蛊必处死刑。某一年中，由长老法庭动议，处14人以火刑。他们的罪是行巫蛊使撒旦降瘟疫于日内瓦。
在长老法庭看来，宗教与道德是一体两面。宗教的目的，是使人养成善良的行为。善良的行为，必循宗教的轨道前进。加尔文自己俭朴而严肃，其理想就是按其神学理论，建立一个模范社会。这个社会，秩序井然道德高尚，足令崇尚骄奢淫逸的罗马天主教徒望之深感惶愧。纪律训练是培养高尚人格的主要途径。因为一个人的私欲唯有借纪律训练才可克制。教士除言教之外，尚应着重身教。他们可以结婚生子，但须戒绝打猎、赌博、宴会、交际及其他世俗上的享乐。每一个传教士，每年应由其上级传教士，就各方面，特别是在道德方面，至少严加考核一次。
对信徒行为的考察，订有家庭访问制度：长老对其所属地区，每年对每一个家庭至少应做一次访问。借此访问，长老即可充分了解每个家庭各方面的状况。长老会与议会对下列事项，如赌博、牌戏、不敬神明、酗酒、上酒家、跳舞（特别是在跳舞时接吻拥抱）、唱淫荡或非宗教歌曲、豪华宴会、生活奢侈、穿着华丽等，均严加禁止。按当时的法律，对衣服的颜色长短，对酒席的菜肴多寡，均有详细规定。戴珠宝首饰是奢侈行为。一位女性因梳高髻曾受监禁。演戏最初规定以宣扬宗教者为限，但其后，甚至连宗教戏也不准演。儿童名字禁取天主教圣徒之名，至于取《旧约》人物之名，则受到鼓励。一位顽固的爸爸，因为给孩子取名克劳德，而不肯取名亚伯拉罕，被抓去关了4天。新闻检查比天主教的做法变本加厉。1560年更进一步规定，查禁邪教和不道德书刊。稍后，就连蒙田的《论文集》、卢梭的《爱弥儿》（?mile），也在查禁之列。言谈中对加尔文或其他教士表示不敬，也算犯罪。对以上法规，初犯，申戒；再犯，罚金；累戒不悛，就要被监禁或充军。私通有夫之妇者，或充军，或溺毙。通奸、亵渎神明、偶像崇拜，均予处死。一个极端的例子，一个孩子因殴打父母，曾受杀头处分。1558年至1559年，因犯不道德之罪而被起诉者为414人。1542年至1546年，充军者76人，处死者58人——当时日内瓦的总人口为2万人。16世纪的日内瓦，和其他地区一样，严刑逼供是求取罪证的常用手段。
加尔文所订的法规，除宗教外还涉及教育、社会及经济生活等方面。他办了一所学院和若干所学校。重金礼聘西欧各地学者前来任教。校中所教，有拉丁文、希腊文、希伯来文及神学。学生毕业，授以牧师资格，派到法国、荷兰、苏格兰、英格兰甚至亚洲去传《福音书》。1555年至1566年的11年间，由日内瓦派到法国去传《福音书》的牧师，人数达161人。不少人在殉道时，曾高唱胡格诺赞美歌。在加尔文看来，阶级的划分是自然的。因此他的立法，除规定各阶级的活动界线外，还以不同的服饰来表示官阶和尊严。在社会上，他希望人人谨守岗位，各尽其职而不怨天尤人。禁止乞讨，对穷人不重施舍，而重计划周详的社区救济。
加尔文教派视勤劳节约为神圣，可说正适合当时新兴的新教工商业者的胃口。不过，如说加尔文教派的兴起，对工商业发展有决定性影响，则不切实际。因为日内瓦未受加尔文的影响前，资本主义已在天主教的佛罗伦萨和佛兰德斯广泛发展。加尔文反对任何个人主义，无论其为经济上的、宗教上的或道德上的。在加尔文看来，社会单位不是具有自由的个人（路德的改革以此为起点），而是城市国家的自治村镇。个人必须服从法令规章。“基督社会的成员，”他说，“不应将其天赋作为私用，应以之造福人群。凡行百事，应以团体利益为先。”他不赞成囤积居奇，对贪得无厌和无情榨取，更深表厌恶。与某些中世纪末的天主教学者一样，他虽承认贷款可以取息，但认为利息不能超过5％。他极力提倡富人自动以无息贷款借给国家或个人。经过他的批准，长老法庭对垄断、独占及放高利贷者曾予以打击。他令食物商、布商和医生按公定价格营业。对欺骗顾客的商人，大秤小斗，长尺短尺，或予申斥，或予罚款。有一段时间，日内瓦颇具集体色彩；牧师团曾经营银行和工商业。
从这些限制，我们便知加尔文教派与工商业者之间是有冲突暗流的。显然，加尔文的做法如阻碍日内瓦工商业发展，则加尔文便不能长期保有领导地位。为了适应新情势，加尔文曾不断做自我修正。他准许利息升至10％，他建议国家贷款发展私营企业。日内瓦的织造业和缫丝业，就是因国家贷款发展起来的。加尔文教派因能适应现代经济之发展，在作为世界商业中心的安特卫普、阿姆斯特丹和伦敦大受欢迎。加尔文教派掌握着中产阶级，因此中产阶级发展，它也跟着发展。
加尔文统治的结果如何？实行这种统治，可说相当困难。因为，有史以来对一个城市在道德上要求这么严格是罕见的。最初不少人起来反对。反对者的声势，几乎达到公开叛乱的程度。但赞成者的人数，并不亚于反对者。尤其是赞成者中多为具有影响力的市民，而他们所喊的口号，维护道德秩序，又极动听，因此，终于把反对者压了下去。加尔文统治的巩固，还有几个因素：第一，法国及其他地区新教徒的移入；第二，实验地区不大——仅限于日内瓦及其腹地；第三，日内瓦人有外敌如萨伏依、意大利、法国及神圣罗马皇帝等入侵的恐惧。大体上说，加尔文的统治是成功的。以下是一位目击者，由意大利逃往日内瓦寻求庇护的新教徒伯纳迪诺·奥基诺（Bernardino Ochino）的报告：
咒骂、亵渎神明、不贞、私通及种种生活上的缺点，在其他地方视为家常便饭的怪事，这里通通没有。这里，一无男宠，二无妓女。人们衣着朴素，甚至不知胭脂为何物。赌博非常罕见。慈善事业办得很好，街上看不见一个乞丐。人人互相劝勉，有如弟兄手足。法庭已忘了何谓诉讼，因为这里处处祥和，根本没有渎职、谋杀及党派纷争等事件。不过，在这你想找风琴、找钟、听流行歌曲、看燃烛礼拜，你便会感到失望。因为这里不但没有这些东西，而且也没有所谓圣物、圣画、圣像、华盖、圣袍。这里的教堂只见一片庄严肃穆，根本没有偶像崇拜。
不过，查日内瓦这一时期的议会档案，其画面与伯纳迪诺·奥基诺报告的文字略有出入。档案显示，这里的私生子、弃婴、强迫婚姻及死刑案件的数目，比例也相当高。加尔文的女婿和女儿，居然有丢人的通奸记录。但迟至1610年，瓦伦廷·安德烈（Valentin Andreae），一位路德派牧师，自符登堡写来的信，对日内瓦仍赞美得无以复加：
回忆我在日内瓦观察到的许多伟大事物，我想我会内心艳羡毕生难忘。日内瓦不但制度极佳，而且法规完善。日内瓦市民行为的高尚，得力于每周一次的调查与检讨。他们调查检讨，认真到芝麻绿豆的过失都不放过……由于连咒骂、赌博、奢侈、吵架、忌恨、欺诈等过错都不准犯，大罪当然更不会发生了。基督教文化还有什么比高尚的道德更动人？我们（德国人）当为道德沦丧而悲泣。如果不是在信仰上稍有差异，我想我会永远留在日内瓦。
