约瑟夫在衷心哀悼现在才认识其伟大的母亲后，自觉已无任何束缚，可以尽行其改革的思想。他是奥地利、匈牙利、波希米亚、尼德兰南部等地的专制君主。其弟利奥波德在托斯卡纳，也顺其意志，其妹玛丽·安托瓦内特则在法国可以协助他。他深深地感到在此生命和权力的巅峰，已有很好的机会可以掌握。
他的外表如何呢？这时他年已40，仍是盛年，他在秃头上戴上假发时，显得特别英俊。他有一颗机警、几乎过分活跃的心灵，能够赶上时代，然其对历史和人性的知识使他一直不够稳定。他经常觉得时不我待，因此他所犯的错误都是仓促决定的结果，而非出于恶意。从许多故事中可以了解他对别人的不幸极为同情，并愿意改正可以挽回的过失。在工作许可的范围内，他尽可能接近人民。他的生活极为简单，衣着一如普通士兵，避免穿上皇帝的紫袍。他和腓特烈一样没有情妇，也无游乐而不务正业的“希腊朋友”，工作就是他专心致志的情人。与腓特烈一样，他比臣僚还勤奋工作。他对应尽的责任一向谨慎；出外旅行不是为了娱乐和炫耀，而是为了观察和学习。他曾经视察很多国家的工业、艺术、慈善事业、医院、法庭及陆海军编制。他亲自观察王国内各民族、各阶层及其问题。现在他下了一个男子汉能下的决定，要实现哲学家的梦想。“自从我登上皇位，戴上世界上最贵重的皇冠，我已使哲学成为帝国的立法。”欧洲各地的哲学家热切地注视着他的大计划。
第一个困难是要找到与他抱有同样理想的助手。先朝留下的老臣几乎都是上层阶级人士，而其改革会减除他们的特权。考尼茨和斯维顿支持他，两名枢密大臣奎滕伯格和格布勒，及两名维也纳大学教授马提尼和索南费尔都对他颇多鼓励。但是，这些人的下面是一群官僚，他们只知按习惯行事，以服从传统为乐，自然抵制任何革新。约瑟夫太忙而无法注重礼仪。他的待从如同奴仆，命令繁多而使他们无所适从。约瑟夫要求他们向他报告同僚的严重过失，不时诘询他们，并要他们和他一样夙夜辛劳。他承诺在服务10年后，他们或其遗孀可以领取退休金，他们虽感谢他的美意，却怨恨他的手段，仍旧保持他们的自尊。约瑟夫相信其目标绝对正确，以致根本不能容忍任何批评或讨论。他致书舒瓦瑟尔（此时舒瓦瑟尔已安享退休生活）说：“你活得比我幸福得多。我几乎不知幸福何在，而在我走完我替自己决定的路之前，我就会进入老年了。”可是，他永远没有真的活到老年。
他弃绝一切民主思想。他觉得人民尚难做成熟的政治判断；甚至立宪君主政体也无前途可言。如同英国的国会体制，只会形成由反对根本改革的地主和主教组成的封闭社会。约瑟夫认为，只有专制君主政体才能打破习惯与教条的束缚，并保护弱者不受强者的侵犯。因此，他亲自面对一切问题，并发布涉及生活各方面的命令。为使人们服从其命令，他建立一种间谍系统，致使其施惠变质。
其专制部分表现在一支强大常备军的征集，该军队完全不受地方显贵的控制，以全面征兵制的方式来补足兵源，并施以普鲁士纪律的训练。他希望那支军队会加强他在国际上的影响力，并使腓特烈不敢轻举妄动，或许（因为我们这位哲学家也颇有贪图领土之心）这可以使他取得巴伐利亚，并将土耳其人赶出邻近的巴尔干半岛。他任命“法学家委员会”修改并编纂法典。经过6年的努力，该委员会印行了一本民事诉讼法典。刑罚已经减轻，并废止死刑（在那个时代英国仍有100种罪名要处以死刑）。魔术、巫术及叛教不再受法律的处罚。法律禁止决斗，决斗中杀人视同谋杀。婚姻成为一种民事契约，政府允许人们离婚。地方法官须经特殊训练，并通过艰难的考试。许多宗教法庭被废止。人民在法律面前一律平等。一位贵族被施以枷刑而受人耻笑，而另一位被罚清扫街道时，全国贵族大为震惊。
1781年至1785年一连串的命令，废止了农奴制度。任何人皆有权迁移、转职、拥有财产和因互相同意而结婚，国家指派特别检察官以保障农民的新自由。贵族失去对佃农的刑事管辖权，但为避免领地荒芜，规定地主仍可要求从前的农奴提供某种惯有的劳动。
约瑟夫相信《基尔特规程》有碍经济发展，因此鼓励资本主义工业，但是他反对增加机器，唯恐“因而摧毁了成千上万人的生活”。他准许工人不必入伍，但他们为了休工假日的减少而牢骚不断。他对商人、制造家及银行家赐予贵族的封号和全国性的表扬。他虽废止或减少多种国内税，仍保留进口货物的保护关税。国内厂商受到保护，外商无法与之竞争，他们竞相提高价格，并生产劣等货品。怨恨奥地利的关税壁垒，普鲁士、萨克森及土耳其也紧闭门户，不准奥地利货品进入。易北河、奥得河、多瑙河等流域骤然失去不少生意，约瑟夫打通一条穿过卡尼克阿尔卑斯山的新路，目的是增加与亚得里亚海各港口之间的陆上贸易。他成立东印度公司，希望经由阜姆（Fiume）及的里雅斯特港两自由港而与东方、非洲和美洲各国贸易。1784年，他和土耳其谈判，签订了通商条约，但是三年后的土奥战争，使多瑙河入黑海的出口尽行关闭，结果多瑙河的商人纷纷破产。
为了促进资本流通，他废止旧有禁止取息的立法，凡贷款取息在5%以下者即为合法，并封犹太银行家为贵族。他提供国家贷款，并准新兴企业短期垄断市场。他采取单一土地税的重农主义思想，土地税率各依其坐落地点及肥瘠而不同，并由大小地主来支付。这项计划若执行，自须先丈量帝国的土地。丈量费用共为1200万基尔德，由地方共同负担。新法规定，农民保有收获或收入的70%，国家得12%，尚余则由封建例费及宗教什一税均分。以前农民应付34%给国家、29%给地主、10%给教会，只有27%留给自己。贵族抗议新划分法会毁了他们；而在匈牙利，他们竟起来反抗。
奥地利、匈牙利及波希米亚的人口，1780年为1870万人，1790年则增至2100万人。根据当时的报告，砖瓦建筑逐渐取代了旧日农村的茅屋，都市建筑也改用砖瓦代替木材。贫穷依然存在，1781年奥皇曾下诏成立“济贫组织”（Armeninstitute），任何无能生活者均有权向其求助，而无须损及自尊。
虽然约瑟夫的官衔包括“基督牧者”、“基督教拥护者”及“天主教信仰的保护者”，但在他获得专制大权不久，即着手减弱教会在其“承继的土地上的地位”，那是指奥地利、匈牙利及波希米亚而言。1781年10月12日，他发布《宽容诏令》（Ediot of Toleration），新教徒和希腊正教徒都可自由建立自己的教堂、学校，而且有权自由集会、拥有财产、进行忏悔和担任军政职务。奥皇劝其人民“避免引起有关信仰的争执……并善待不同教派的人士”。在给斯维顿的一项指令中，约瑟夫坦白说出其灵感的渊源：“我的帝国内不再容许不宽容，帝国会乐于发现它没有使卡拉斯和塞文那类人成为牺牲者……宽容是启蒙主义衍生的结果，而现在全欧洲都在传播这种启蒙主义。它是奠基哲学及建立哲学理论的伟人……只有哲学才是政府应该遵循的道理。”
宽容也有其限制，正如伏尔泰在《论宽容》（“Treatise on Toleration”）一文中定其范围一样（1763年）。某些大臣警告约瑟夫说，假如取消一切限制，各种奇怪的教派势必丛生蔓延，甚至绝对无神论也将获得成长的机会，这样会造成教派纷争、社会纷乱及粉碎一切权威的后果。因此，有人告以几百位波希米亚人自称是自然神论者时（1783年），他断然下令，任何敢如此自称者，“不需要进一步的调查，即应以皮鞭在其屁股上重重地打24下，然后把他送回家”，连续公开做此声称者，将连续地受到同样处罚。某些顽固的自然神论者，被遣往军事辖区管理。
《宽容诏令》发布的结果，使王国内自称为新教徒的数目急速增加，1781年只有7.4万人，1786年竟遽增至15.7万人。自由思想渐有发展，但仍然以私人交际圈为限。兄弟会会员长久以来即已在奥地利生根，曾在维也纳建立分会（1781年），并有许多名流参加（虽则其主张暗含自然神论）而为奥皇保护。一位会员说：“本会的宗旨在于实现政府鼓励的良心和思想的自由，并打击各种教派……的迷信和盲信，这些教派就是这些罪恶的主要支持者。”兄弟会分会仅在维也纳一地就有8个之多。加入该会成为一时风尚，不分男女皆戴上兄弟会的标志，莫扎特还为兄弟会的典礼作曲。约瑟夫终于疑心该会有政治阴谋，1785年他下令维也纳各分会并而为二，各省的省会也只准设一个支会。
约瑟夫任命一个委员会来修改出版检查的法律，1782年依据其修改结果发布了一部新法。该法禁止出版故意攻击基督教的书籍，而内容有“不道德的描述或猥亵的文字者”也在禁止之列。但是，同样查禁“内含几近神话的奇迹、幽灵、神示及同类记述的书籍，只因那些书会使一般人迷信，也会惹来学者的厌烦”。批评和讥嘲的文章即使是攻击奥皇，也准其出版，但应使用作者的真名，并受“诽谤法”的拘束。《罗马禁书一览表》内的书籍置于图书馆中，任学者使用。科学著作完全免受检查。某种学术书籍假如经知名权威担保为纯学术性质，即可免受检查。外语书籍可自由进口与贩售。学术自由扩大了很多。因斯布鲁克大学的14名学生公开向政府检举其教师不该主张这一世界的存在超过6000年以上，约瑟夫很简单地处理此事，他说：“这14名学生应予开除，因为他们的头脑太愚蠢，无法从教育中获得益处。”新法导致教会组织愤怒的抗议。但约瑟夫的答复是，允许维也纳享有完全的出版自由（1787年），甚至在完全获得自由之前，维也纳的出版商即因1782年的法律执行不严，而从中取利：奥地利市面充斥了半色情、透露修女生活、攻击天主教会或天主教本身的那类小册子、书籍及杂志。
约瑟夫觉得也应就宗教事务有所规定。1781年11月29日，他发布诏令，关闭许多修道院和修女院，诸如“既不开办学校，又不照顾病患，也不从事研究”之类皆予封闭。日耳曼领域内（奥地利、斯蒂里亚、卡林西亚及卡尼奥拉）共有2163所修道院，有413所被封。6.5万名修道士中，2.7万名在领取津贴后被遣散，在波希米亚和匈牙利两地也有类似的裁减。约瑟夫说：“王国又穷又落后，无法奢侈到必须养活这么多懒人。”被解散的组织的财产——共约6000万基尔德——当然为人民共有，而由国家加以没收，尚存的修道院也不再有继承财产的权利。托钵教会受命停止乞讨行为，并不得再收容新信徒。又废止宗教上的兄弟结义关系。各种宗教财产应由政府加以登记，政府禁止其随意出售、转让或交换。
约瑟夫继而将天主教主教辖区置于国家的控制之下。新任主教须先向世俗权责机构宣誓效忠。未得政府许可，教皇的一切规程和谕令在奥地利皆属无效。1713年的教谕，虽谴责异端或詹森派教徒，但奥地利根本置之不理。同时，约瑟夫组织新教区，建立新的教堂，并支薪给神职候选人。他开设新的神学院，其课程不但重视神学和礼拜仪式，而且特别重视科学与世俗常识。
这些措施引起全欧天主教教士的反对。许多高级教士请求约瑟夫撤销其对付教士的诏令，但约瑟夫不听。他们又以下地狱来威胁他，他一笑置之，不为所动，继续其改革。最后，那位潇洒、文雅、仁慈和自负的教皇庇护六世，采取了非常的行动，离开意大利（1782年2月27日）。是年冬天，他越过亚平宁山和阿尔卑斯山，抵达维也纳（3月22日），决心亲自吁请奥皇撤销前令，这是1414年以来教皇第一次踏上日耳曼人的土地。约瑟夫与也抱怀疑的考尼茨走出维也纳城，亲迎教皇至玛丽亚·特蕾莎曾住过的行宫。在教皇逗留维也纳期间，广大的群众几乎每天都聚集在宫外，希望获得教皇的祝福。约瑟夫其后这样描述他们：
宫中走道及梯廊挤满了人。纵然已增加一倍守卫，仍然不可能不被他们带来请他祝福的东西侵扰：肩衣、念珠、偶像等。而他虽然每天从骑楼上给予7次祝词，仍有一大堆群众等他施予祝词。除非你亲眼目睹，否则，你真不知到底是怎样的人山人海；一次竟然有6000多人在那里等候，这绝对是真实的。那真是最壮观的场面。农民携妻带子来自周围60英里外。昨天有一位妇女还挤破了我的窗户。
教皇滔滔雄辩的劝解，还不如宗教对人心的影响的这种明证，更能感动约瑟夫。但是，即使庇护六世为其贵宾之际，他继续关闭修道院。教皇严厉地警告他：“假如你一意孤行，毁坏信仰和教会法律，上帝一定会重重惩罚你，在你生命的旅程中，它就会处置你，它会在你面前开辟一道黑暗的深渊，而在你的盛年就会被它吞噬，你那光荣的帝国也将为之毁灭。”历经一个月的显耀和失败，庇护六世终于伤心地返回罗马。其后不久，奥皇任命罗马教廷不能同意的维斯康堤为米兰大主教，教皇拒予承认，遂致教皇与帝国几濒破裂的边缘。约瑟夫还不想采取这样剧烈的步骤，他速往罗马（1782年12月），谒见教皇，表示虔敬，因而得到教皇同意，此后可由国家指派主教的人选，甚至在伦巴底一区亦然。君王与教皇在和善的气氛中分别。约瑟夫曾经掷了3000斯库迪给罗马群众，他们欢呼：“吾皇万岁！”
返回维也纳后，他继续一人的改革。像路德一样地抗拒教皇（许多新教徒感激地拿他和路德相比），也像亨利八世一样地攻击修道院，其后他又像加尔文一样，下令移走许愿匾及多数雕像，并禁止接触圣像，吻圣迹及分发避邪符……借以净化教会。他规定宗教礼拜的时间和种类，圣女的服饰和宗教音乐的性质。此后，规定祷文只能用日耳曼语，而不能以拉丁文来诵读，朝圣和游行应须获得世俗政府的允许。最后只有一种游行获得允许，即圣餐节游行。官方通知人民，不必跪在街上迎接游行行列，即使它携有圣饼亦然。脱帽致敬就已经够了。大学教授被告以他们以后无须宣誓他们相信圣母无瑕的观念。
没有人怀疑约瑟夫的人道目标。封闭修道院省下的财富已被当作专款，用于修建学校和医院，资助慈善事业，遣散教士及用作修女的津贴和贫穷教区牧师的补助款。奥皇连续下诏，促进教育的发达：有100名适龄学童的社区即应设一个初级小学；初级教育完全为强制性，并具普遍性；另由修女院或国家设立女子学校。维也纳、布拉格、伦贝格、佩斯特、鲁汶等地均设有大学。因斯布鲁克、布伦、格拉茨、弗赖堡等地设有专科学校，教授医药、法律或工艺。帝国设有许多医学院，包括设在维也纳的一所教授军医和外科手术的约瑟夫医学院在内。维也纳开始成为世界上最进步的医学中心。
