这些科学进展之中，旧有的正统派开始争取教育人士的支持。宗教与科学的竞争，使许多人成为怀疑主义者，有些成为公开的无神论者。阿尔—伽萨尼将伊斯兰教的思想家分为三类——有神论者、自然神教信徒（或自然主义者）及唯物论者——并指责这三类都是异教徒。有神论者接受上帝与永生，但否认创造与肉体的复活，认为天堂与地狱只在精神上存在。自然神教信徒承认上帝，但反对永生，认为世界如同一个自行运作的机械。唯物论者则完全反对神的观念。一个半组织化的运动达里雅（Dahriyya），自称是坦白的不可知论者，其中有些人甚至怀疑刽子手是否切下了托玛塞斯（Thomases）的头。伊斯巴罕·伊本·卡拉（Isbahan Ibn Qara）在斋戒日对虔诚的禁食者说：“人们自己折磨自己毫无意义，人就像一粒种子，发芽、成长，然后被收割，永远消逝……吃与喝吧！”
为反对怀疑主义，伊斯兰教产生了最伟大的神学家艾卜·哈米德·加扎利（Abu Hamid al-Ghazali），他1058年生于图斯，早年丧父，由父亲一位持泛神论的朋友抚养。他研究法律、神学与哲学，33岁时任巴格达尼扎米亚学院的法律讲师，他的辩才、博学和辩证能力，立刻受到整个伊斯兰世界的赞赏。经过了4年的荣耀生活之后，他忽然得了一种怪病。食欲和消化力减退，有时舌头麻痹，影响讲话，他的精神开始崩溃。一位名医诊断他的病情出自精神上的原因。事实上，他在以后写作的有名的自传中，坦白地表示他曾失去了承认伊斯兰教信仰的理性能力，而且对正统派教义的伪善也感觉无法忍受。他于1094年离开了巴格达，表面上是到麦加朝圣，实际上是去过隐居的生活，寻求安静、沉思和安宁。因在科学上找不到支持，他重新寻求破碎的信仰，从外在世界转向内在世界的寻求，在那里，他找到了直接和非物质的实体，这给予精神世界信仰坚强的基础。他使知觉从属于严格的查究——唯物主义以知觉为依据。他指责以知觉从如此遥远的距离观察星星，以为星星是渺小的，其实它们很多都比地球大。在结论中，他以上百的这种例子，证明单凭知觉并不一定能证实真理。理性较高一层，并以此一知觉改正彼一知觉，但是最后它仍然归于知觉。也许人的内在有一种知识的形式，对于真理的导引，比理性更确定？他觉得已经在神秘主义者的内省冥想中找到了这点：泛神论在“实在”隐藏的核心方面，比哲学家走得更近，最高的知识在于注视心灵的奇迹，直到上帝在它自身之内出现为止，而自身本身（self itself）消失在一个吸收全体的“一”之中。
在这种心情下，阿尔—伽萨尼完成了他最具影响力的著作——《哲学的毁灭》（Tahafut al-Filasifa）。所有理性的技巧都转而反对理性。通过像康德一样敏锐的“直觉辩证法”（Transcendental Dialectic），这位伊斯兰教的神秘主义者认为，理性导致全面的怀疑，知识的破产，道德的败坏，社会的崩溃。他在休谟之前七个世纪，就把理性贬为因果律（Priciple of Causality），而因果关系只是按次序而生的：我们都相信B通常是随着A的，并非A是产生B的原因。哲学、逻辑、科学都不能证明上帝的存在或灵魂不灭，只有直接的直觉知识，才能使我们确信这些信仰，没有它便没有道德秩序，也就没有文明可以存在。
最后，他又从神秘主义回到正统观点。年轻时的恐惧和希望重新恢复，他宣布自己感觉到严厉的真主的目光与恐吓接近他的头部。他重新声明伊斯兰教地狱的恐怖，并极力解释传道对于民众道德是必需的，他又重新接受《古兰经》和圣传。他在《宗教科学复兴》（Ihya Ulum al-Din）一，以全部辩才和有利于自己的说法，解释并为他回归正统辩护。在伊斯兰教中从未有怀疑主义者和哲学家遇到这样有力的对手。在他死时（1111年），不信仰的潮流已经被有效地扭转过来了。所有的正统派都因他得到安慰，甚至连基督教的神学家也很高兴在他的翻译著作中找到对宗教的辩护及对虔敬的解释，因为自从奥古斯丁之后，就再没有人这样写过。在他之后，即使是阿成罗伊，哲学也都隐藏在伊斯兰世界的遥远角落里，对科学的追求衰退了，伊斯兰教的思想越来越专注于圣传和《古兰经》。
阿尔—伽萨尼转变为神秘主义者，是苏菲教派的一大胜利。当时正统派已经接受了苏菲教派的教义。此派教义，也曾被纳入神学之中。伊斯兰教的学者——少数对伊斯兰教教义与法律有研究的典型人物——仍然统治着官方的僧侣与法律的世界，但是在宗教思想方面，已经让位于苏菲派的僧侣与圣者们。基督教圣方济会的兴起，使12世纪的伊斯兰教也产生了一种新的修道生活方式。苏菲派的信徒如今放弃了家庭生活，生活在宗教性的兄弟会中，由教主管辖，自称为“dervish”或 “faqir”（波斯与阿拉伯语，意为“穷人”或“托钵僧”）。有些人以祈祷和冥想，有些人以苦行、自我否定，还有些人以狂乱舞蹈的精疲力竭，来寻求超越自我与引起与安拉的神奇统一。
他们的教义接受了穆希伊·丁·伊本·阿拉比（Muhyi al-Din Ibn al-Arabi）——一位住在大马士革的西班牙穆斯林——150部著作的有系统而确切的说明。世界绝不是被创造的，阿拉比认为那是外在的范围，而内在的观点就是安拉。历史是安拉自我意识的发展，它最后仍由人来完成。地狱是暂时的，最后一切都会得救。当去爱一个肉体和转瞬即逝的形式时，那么爱是错误的。是安拉出现于所爱的人之中，一个真正的爱人会发现并喜爱所有美好形式的创造者。也许是联想到哲罗姆时代的一些基督徒，阿拉比指出“他爱并保持贞洁，一直到死，成为殉道者”，实现了信仰的最高境界。许多已婚的托钵僧都声称是以这样的贞洁与他们的妻子生活在一起的。
因为人民大量的奉献，有些穆斯林变得很富有，并赞同过享乐的生活。叙利亚的一位主教于约1250年不满地说：“以前，苏菲派的信徒是一个兄弟会式的组织，在肉体上是分开的，却在精神上结合。如今他们是一个穿着华丽的世俗团体，在神圣的奥秘方面却褴褛不堪。”一般民众容忍地嘲笑这些神圣的俗物，虔诚的信徒却毫不吝惜地崇拜他们，把神迹和能力归于他们，像尊敬圣者那样尊敬他们，庆祝他们的生日，向他们祈求安拉的祝福，并到他们的墓前膜拜。伊斯兰教和基督教一样，是一个正在发展和可调整的宗教，它可能会震惊再生的穆罕默德或基督。
当正统派胜利时，容忍便消失了。从哈龙开始，以前不受重视的“欧麦尔的训令”已经逐渐地被遵行了。从理论上说，虽然实际并非一向如此，非穆斯林现在被要求穿着不同的黄色条纹衣服。他们不准骑马，不过可以乘驴或骡子。他们不能盖新的教堂或犹太人的会堂，只能整修旧有的。教堂外面不能展示十字架，也不准敲教堂的钟。非穆斯林的儿童，不准入伊斯兰教的学校就读，不过他们可以自建学校。法律仍然有明文规定——并不总是加强。然而在10世纪的巴格达，仍有4.5万名基督徒，基督徒的葬礼行列经过街上并不会被打扰。穆斯林继续抗议政府任用基督徒与犹太人担任高级职务。即使是在十字军的攻击与挑战下，萨拉丁仍然使自己的王朝对基督徒非常宽大。
