穆罕默德未曾指定继承人，但他曾命艾卜·伯克尔主持过麦地那清真寺的祈祷仪式。经过一段纷争扰攘的日子，就根据这一事实，诸阿拉伯伊斯兰教领袖被说服共同拥戴艾卜·伯克尔为第一位哈里发（Khalifa）。哈里发，当初只是一个称谓，而不是一个官衔，正式官衔称为艾米尔·慕米宁（Amir Al-Muminin），即教徒领袖（Commander of the Faithful）。身为先知的堂亲和女婿的阿里对这一结果大为失望，近半年之久，坚决拒绝合作。阿里及穆罕默德的叔叔阿巴斯都非常愤怒。这令人不愉快的任命，导致了12次大战、一个阿巴斯王朝和一个一直扰乱伊斯兰世界的教派分裂。
当时艾卜·伯克尔59岁。他短小精干，头发稀疏，花白的胡子染成红色。生活简朴有节制，态度慈祥而具决断力，他亲自处理行政与判案的细节，没有得到公正合理的结论前决不休息。除非他的子民强迫他，否则他不接受报酬。在他的遗嘱里，他决定将他生前所领的俸给全部归还给新政府。但是阿拉伯各部落误认他这种谦恭的态度是意志薄弱。对伊斯兰教只是虚与委蛇的皈依者，由于误解这一点，拒绝负担由穆罕默德所规定的什一税。当艾卜·伯克尔坚持时，他们却向麦地那进军了。他在一夜之间，招募了一支临时军队，破晓前即追踪打击叛军（632年）。而当时阿拉伯军中以残酷著称的将领哈立德·伊本·阿尔—瓦立特（Khalid Ibn al-Walid）奉命敉平骚乱的半岛使之归于正统，他们只好在忏悔中奉上什一税。
这种内部分裂，是导致阿拉伯人征服西亚的原因之一。在艾卜·伯克尔就职之初，哈里发绝没有想到这种扩张的计划。叙利亚的阿拉伯诸部落拒绝基督教与拜占庭，避开帝国的军队，向穆斯林求援，艾卜·伯克尔立即给予军火支援，并激起他们反抗拜占庭的斗志。这一向外扩张的举动，反而促使了阿拉伯内部的统一。耐不住饥饿又惯于作战的贝都因部落，欣然加入这些显然有限的战役中，在他们未认清真相前，这些沙漠中的怀疑论者，已狂热为伊斯兰教赴死。
导致阿拉伯向外扩张的原因很多。基于经济上的有：在穆罕默德前一世纪，政治上的衰微，已经使水利系统破坏，人口的生殖率超越了土地所能提供的供应量，渴望获得更多的可耕地，刺激着这群阿拉伯人。基于政治上的有：拜占庭及波斯两国由于战争及相互蹂躏而耗竭了国力，日趋式微；地方政府苛捐杂税繁重，行政失误，且不能保护人民。基于种族上的有：居住在叙利亚及美索不达米亚的阿拉伯部落，对接受入侵者的规章及信仰，不觉得有任何困难。基于宗教上的原因：拜占庭政府对基督一性论教派、景教及其他宗派的高压手段，使住在叙利亚和埃及的大量少数民族日益不满，甚至帝国的禁卫军也是如此。当战争逐步推进，宗教的角色也逐渐重要。那些伊斯兰教领袖都是穆罕默德的狂热信徒，对祈祷的热情甚于对战争的爱好；他们以宗教的狂热鼓励信徒，宣称在圣战中死去，是进入天国的最好途径。基于士气上的原因：近东基督教的道德规范及修道生活日渐式微，为了鼓舞士气，提高战斗力，已染上了阿拉伯的习气并部分接受了伊斯兰教的教义。阿拉伯军队经过严格的训练，具有凝聚力，他们习惯了艰苦及视战利品为报酬，他们能在饥饿的状况下战斗，而将丰盛的餐点寄托于战争的胜利。但是他们并非野蛮人。“公正，他们正应是，”艾卜·伯克尔大声疾呼着，“勇敢，宁死毋屈！仁爱为怀，毋杀老弱妇孺。不要摧毁草木、五谷及牲畜。言出必行，即使对敌人也要信守诺言。不要干扰遁世的宗教人士，至于其他的人，则应强迫他们成为穆斯林，或对我们朝贡；如他们拒绝这些条件，就杀了他们。”给予敌人选择的不仅是伊斯兰教或战争，朝贡也是一种选项。军事扩张的最后的原因是：当这支胜利的阿拉伯军队，吸收了众多饥饿又雄心勃勃的新兵之后，即使仅欲维持足够的粮饷，就得要去征服新的领土。战争进展制造了更多的难题：一次胜利要求另一次更大的胜利，一直到阿拉伯人的征服行动迅速超过罗马人，其持久更甚于蒙古人——创下了军事史上前所未有的辉煌战绩。
633年初，大将军哈立德·瓦立特“绥抚”阿拉伯骚乱后，应边境地区游牧部落的邀请，越过伊拉克边境，参与袭击附近一个部落。因为不习惯游手好闲和平淡无奇的日子，哈立德及其500名徒众便接受邀请，与2500名部落壮丁会合，侵入波斯领土。我们无法确知这次冒险是否获得艾卜·伯克尔的首肯，但显然他很明智地接受了这次侵略的成果。哈立德在此役中占领了希拉，并将丰富的战利品奉送给哈里发，得到了哈里发如下的赞许：“女人已黔驴技穷，女人再不能生出像哈立德这样的人了。”女人在胜利者的思维及战利品中已成为重要的一项。在围攻埃墨萨（Emesa）的战役中，一位阿拉伯青年将领描述叙利亚少女的美色，以燃起士兵们的狂热。当希拉城破时，哈立德要一位名叫克尔玛特（Kermat）的妇女与一名阿拉伯士兵结婚，因该士兵宣称穆罕默德曾将她许配给他。这位少妇的家人忧伤不已，但是克尔玛特却淡然处之。“蠢材才会看上我的年轻美貌。”她说，“他却忘了青春可不能持之永恒。”这位士兵看望了她以后，答应她以少许金子赎回自由。
正当哈立德欲享受希拉的胜利果实时，哈里发却又给他一道命令，派遣他去支援靠近大马士革正受到强大的希腊军队威胁的阿拉伯军队。从希拉到大马士革有五天要在干旱的沙漠中行军。哈立德征集驼队，使他们饱餐一顿。一路上，士兵们屠宰骆驼从其腹囊里取水止渴，而其坐骑则靠驼奶充饥。当哈立德的军队抵达距大马士革西南60英里的雅穆克（Yarmuk）河边时，军需品已全部耗尽。据阿拉伯历史学家记载，这支仅4万人（一说2.5万人）的阿拉伯军队，进行了有史以来最关键的一次战役，击败了24万人（一说5万人）的希腊大军（634年）。东罗马帝国皇帝赫勒克留率全部叙利亚军队冒死一战，使叙利亚变成了伊斯兰教帝国扩张的根据地。
正当哈立德获胜之际，艾卜·伯克尔逝世的消息传来（634年），而新哈里发欧麦尔希望哈立德将军队统率权交给俄拜德（Abu Obeida）。哈立德隐瞒这一消息，直至战事完全胜利为止。欧麦尔是艾卜·伯克尔的首席顾问和全力支持者，因此艾卜·伯克尔临终指定他为继承人时，没有人置疑这个决定。然而欧麦尔与艾卜·伯克尔却是相反的典型：他身材高大，肩很宽，富有感情。两个人相同之处为：俭朴，秃头，须发染色。由于岁月和责任感，他养成一种暴躁与冷静交加的复杂性格。他曾经因不公正地打了一位贝都因人而恳求对方——毫无效果——还以同样的殴打。他在道德与宗教方面皆主张严肃，要求每一位穆斯林严格遵守各种行为准则。他随身携带一根鞭子，随时随地鞭笞违反《古兰经》的穆斯林。据圣传记载，他曾亲自鞭打其酗酒的儿子至死。据伊斯兰教历史学家说，他只有一件一补再补的衬衫和披风，以面包和椰枣果腹，以白水解渴。晚上睡在用棕榈叶铺成的床上，不比苦行僧所穿的粗毛衣服更舒服。他唯一关怀的是借着文字和武力传道。当波斯帝国的一位省长向欧麦尔致敬时，发现这位东方的征服者与一群乞丐一起睡在麦地那一座清真寺的石阶上。但我们不敢保证这一故事的真实性。
欧麦尔免除哈立德的职务，因为“上帝之剑”不断地染上其残酷行为导致的斑斑血迹。这位顽强的将领对贬谪处之泰然，他坦率地接受俄拜德的处置，而俄拜德也明智地接受他的忠谏，而反对他在胜利后的暴虐行径。精于骑术的阿拉伯人，证明自己比波斯人和希腊人的骑兵和步兵更为精锐，中世纪早期没有一支军队能抵抗他们在战场上的嘶吼，他们那种神奇的战术和快速的军事行动。他们很小心地选择有利于他们骑兵移动的平坦战场。635年他们攻占大马士革，636年攻占安条克，638年取得耶路撒冷。至640年，整个叙利亚已落入穆斯林的手中。641年，波斯和埃及相继被他们征服。耶路撒冷教长索菲洛尼乌斯（Sophronius）要求哈里发亲自前来批准降约，以为有条件的投降。欧麦尔欣然同意，轻骑简从自麦地那出发，随身只带了一袋玉米、一袋椰枣、一壶水和一只木碟。哈立德、俄拜德及其他阿拉伯将领闻讯出迎。他看到他们的华服绣骑甚为不悦，就地抓起一把石子向他们掷去，大声斥责道：“滚开，你们应该这般装束来欢迎我吗？”他很仁慈和礼貌地接待索菲洛尼乌斯，课以被征服者一点贡品，并保证基督徒可在安定和平中保有他们的神龛。一些基督教历史学者说他曾陪伴教长巡视耶路撒冷。在他停留的十天中，他用他的名字来命名清真寺建地。然而，他得悉麦地那人民唯恐他将以耶路撒冷为伊斯兰教的重要据点，很是不满，他立刻回到文化水平较低的麦地那去。
对波斯和叙利亚的控制稳固后，马上掀起了一股从阿拉伯向北方和东方移民的浪潮，堪与历史上日耳曼民族向被征服的罗马各省移民相比。女人也参加了这一次移民，但在数量上不及阿拉伯男人那么多。因此，男性征服者们娶基督徒和犹太人为侍妾，而承认自己与这些妾侍们所生的子女在法律上的合法性，如此在那里生活并繁衍着。到644年，在叙利亚和波斯的“阿拉伯人”已增至50万之多。欧麦尔禁止这群征服者购置或耕植土地。他希望在阿拉伯以外也能永远保持一个军人阶级，由国家优容供给一切，但须严守军人本职。他的禁律在其死后即被抛诸脑后，他豁达大度，导致他的法令几乎在生前就被置若罔闻了。他将掳获的战利品的4/5分给军队，只有1/5归属国家。头脑精明的少数人，不久即搜购了大批物资，增加了阿拉伯的财富。库赖什的贵族们在麦加和麦地那两地兴建堂皇的宫殿：祖贝尔（Zobeir）在数个城市拥有华丽的宫殿，并拥有1000匹马和1万名奴隶。拉赫曼（Abder Rahman）拥有1000匹骆驼、1万只羊和40万第纳尔。欧麦尔眼看他的子民日趋腐化，甚为忧心。
欧麦尔在一座清真寺主持祈祷时，被一名波斯奴隶刺伤（644年）。由于不能说服莱赫曼作为他的继承人，垂死的哈里发即指定六人来选择他的继承人。也许是他们希望能操纵未来的哈里发，他们竟然选了六人中最懦弱的一人为继承人。奥斯曼·伊本·阿凡（Othman Ibn Affan）是一位年迈仁慈的长者，他重建并美化了麦地那的清真寺，并全力支持赫拉特（Herat）、喀布尔（Kabul）、巴尔克（Balkh）、第比利斯（Tiflis），及从小亚细亚到黑海的将领们。但非常不幸，他是早期穆罕默德最强悍的敌人、贵族化的倭马亚氏族的忠诚一员。倭马亚人蜂拥至麦地那，凭着与这位年老的哈里发的关系，坐享别人用血汗换来的成果。他却不能拒绝他们的要求，不久就有成打优厚的官位，交到蔑视虔诚穆斯林清修与简朴生活的倭马亚人手中。而胜利的果实使伊斯兰分裂成几个互不相让的派别：来自麦加的避难者与麦地那的援助者相互对立；麦加与麦地那这两个居于领导地位的圣城与日益发展的新兴伊斯兰教城市，如大马士革、库法、巴士拉相对立；库赖什的贵族政治与贝都因的民主政治相互诟责；阿里领导的哈希姆派与穆阿维叶——穆罕默德主要敌人苏夫扬的儿子，时任叙利亚总督——领导的倭马亚派对立。654年，一位改宗伊斯兰教的犹太人在巴士拉宣扬革命主义：穆罕默德将再转入人世，阿里是他唯一的合法继承人。奥斯曼是一位僭主，他所任命的官员是一群无神论暴徒。在巴士拉遭到驱逐后，这个犹太人避入库法。在库法再度被赶走，他逃到埃及。在埃及，他的煽动言论却得到听众热烈的反应。将近500名埃及穆斯林以朝圣者的身份前往麦地那，要求奥斯曼让位。遭到哈里发拒绝后，他们就将他围困在皇宫里。最后他们涌入宫中，在他诵读《古兰经》时把他杀死（656年）。
倭马亚的领袖们随即从麦地那四散逃走，而哈希姆派立即拥立阿里为新的哈里发。在青年时期，阿里是信仰虔诚而又忠心耿耿的典型穆斯林。现时他已55岁，秃头，体格健硕，慈蔼，谨慎。他对以政治代替宗教及以阴谋代替虔诚信仰的事件感到痛苦并畏缩。各方面要求他严惩凶手，但因他迟迟未有行动而让凶手们逃走。他要求奥斯曼所任命的官员辞职，被大多数人拒绝。相反，穆阿维叶将奥斯曼沾满血渍的一件袍子，及奥斯曼太太为援救、庇护其夫而被砍落的手指头在大马士革示众。曾受倭马亚人统治的库赖什人帮助穆阿维叶，先知的伴护祖贝尔和泰勒哈（Talha）也起来反对阿里，并对哈里发的职位提出反对意见，而穆罕默德的骄矜的寡妇艾莎也离开麦地那前往麦加，参加叛乱。正当巴士拉的穆斯林宣布革命时，阿里向库法的退役军人求援，声言如他们出兵相助，他将以库法作为他的首都。他们应允了。在“骆驼之役”（Battle of the Camel）——因艾莎在驼骑上指挥作战而得名——中，两军在今伊拉克南边的霍莱巴（Khoraiba）相遇。祖贝尔和泰勒哈两人兵败被杀。艾莎受到优待，送返麦地那老家。而阿里迁都至靠近巴比伦古城的库法。
在大马士革，穆阿维叶招募、组织了另一支叛军。他是老于世故的人，对穆罕默德的启示提出自己的见解。在他看来，没有一个贵族会以宗教来限制他自己在世间的享受。他对阿里发动战争，旨在恢复被穆罕默德夺去的库赖什族的寡头统治权。阿里那支重新组织的军队，与穆阿维叶的军队在幼发拉底河流域的隋芬（Siffin）相遇（657年）。当穆阿维叶的将领阿慕尔·伊本·阿斯（Amr Ibn al-As）命士兵将《古兰经》用矛头挑起，并要求“根据安拉的话”作一公断时——假定在圣典里可找到解决争端的方法——阿里占了上风。顺应军队的坚持，阿里同意了。仲裁人立即选定，将以六个月的时间解决争执，同时命两军各返原地休息。
此时阿里的一部分部属转而反对他，他们另组派别和军队，称为哈瓦利吉德（Khariji）。他们辩称哈里发应由人民来选举或罢免，他们中有些是除了真主以外、拒绝政府组织的宗教无政府论者。他们全都拒斥新的伊斯兰统治阶级的世俗地位及奢侈作风。阿里尽力以教义说服他们归心，但失败了。他们的虔诚竟变成了狂热，甚至变成暴乱。最后，阿里向他们宣战并扫荡他们。正当此时，仲裁者们一致决议，阿里和穆阿维叶双方撤回对哈里发职位的要求。阿里的代表宣布罢黜阿里，而阿慕尔宣称穆阿维叶为哈里发。在混乱的情形中，哈瓦利吉德派的一名狂徒在库法接近阿里，并将一把浸有毒液的利剑刺入阿里的脑袋中（661年）。阿里殉难的地方，变成什叶派（Shia sect）的圣地，该派尊阿里为安拉神的代理人，使阿里的陵寝所在地成为朝圣者的目标，与麦加一样神圣。
住在伊拉克的穆斯林另立阿里之子哈桑（Hasan）承继大统。而穆阿维叶向库法进军，哈桑称臣，从穆阿维叶处领得优厚的抚恤金，隐居麦加。他一生结婚百余次，最后被哈里发善妒的妻子毒死，时年45岁（669年）。穆阿维叶获得了全伊斯兰人民勉强的效忠，然而出于他对自身安全的考虑，而且麦地那已不再是伊斯兰教人口和伊斯兰教势力的中心了，所以他建都大马士革。在苏夫扬之子的领导下，库赖什贵族终于战胜了穆罕默德派，而神权继任制的共和政体成为世俗世代相传的君主政治，闪米特的律法取代了波斯和希腊人在西亚的统治，欧洲人在此一区域1000余年的政权从此被逐出，而伊斯兰教势力从此在近东、埃及和北非维持了近13个世纪的影响力。
