这些非同寻常的诱因，使群众纷纷投效十字军旗下。所有因犯罪被处以刑罚的人，都因大赦被赦免，因为他们将会死于战争。农奴获得允许，离开束缚他们的土地；市民被免除赋税；债务人对可以延期缴付利息感到欣喜；犯人获释，死刑改为在巴勒斯坦终身服役，这也是教皇权威大胆扩张的一个成果。数千名流民加入神圣的徒步行军。厌倦了毫无指望的贫苦生活的人，打算从事冒险事业的冒险家，期望在东方开拓自己领地的小儿子，为货物寻求新市场的商人，因农奴应征入伍离开土地、而无人为其耕作的武士们，唯恐别人嘲笑自己懦弱无能的胆小怕羞的人，都加入胸怀宗教热忱的人中间，去夺回基督降生及受死的圣地。
人们的动机是如此不同，以致几乎无法将这些乌合之众改编成有作战能力的军事组织。很多时候，女人和孩子坚持跟随、陪伴丈夫或父亲，他们这样做不无道理，因为妓女们很快就应召前来为战士们服务。乌尔班将出发的日期定在1096年8月，但急躁的农民们，即第一批新兵，却不能等待。有一支12万人的队伍（其中仅有8位骑士），由“隐士”彼得及圣阿瓦尔（Gautier sans-Avoir）率领，于3月由法兰西出发。另外一支，也许有5000人，在神父戈特沙尔克（Gottschalk）的指挥下由日耳曼出发。第三支在莱宁根的伯爵埃米科（Emico）的带领下由莱茵河西部地区出发。主要就是这些乌合之众，去攻打日耳曼及波希米亚的犹太人，他们无视当地教士与老百姓的吁求，有一段时间干脆沦为禽兽，以虔诚之名来放纵血腥的欲望。新兵们仅有极少的一点经费和少得可怜的食物，缺乏经验的领袖却只给他们有限的给养来维持体力。许多人低估了他们与耶路撒冷的距离。他们沿莱茵河和多瑙河前进，每到一地，就不耐烦地问：这不是耶路撒冷吗？当随身携带的钱财告罄时，他们开始挨饿，只好洗劫沿途的庄稼地和房舍。他们一路激起人们强烈的反抗。一些城市关起城门来抵挡他们，其余的人则祝他们一路平安，快快离去。终于，他们身无分文地接近了君士坦丁堡。此时，饥饿、瘟疫、麻风病、热病及战争已经夺去了大部分人的生命。他们受到阿列克赛的欢迎，却仍未能饱餐一顿，于是攻入郊区，洗劫教堂、民居和宫殿。为了不让这些蝗虫进入都城，阿列克赛提供他们船只，送他们越过博斯普鲁斯海峡，并发给他们生活必需品，嘱咐他们就地等候即将到来的装备精良的部队。也许是饥饿或不耐烦，十字军对这些告诫未予理睬，径自开往尼西亚。一支训练有素的由精锐的弓箭手组成的土耳其军队由城中出击，差不多全歼了第一次十字军东征的首支部队。阿瓦尔死于此役。“隐士”彼得嫌恶他那支难以驾驭的队伍，在君士坦丁堡一役之前即离队折返，结果平平安安地活到1115年。
此时，佩戴十字军标记的封建领主，正在领地内组织自己的军队，但是国王并未参与其中。因为当乌尔班煽动十字军东征时，法兰西的菲利普一世、英格兰的威廉二世、日耳曼的亨利四世都早已被教皇处以破门律，逐出了教会。许多伯爵和公爵响应教皇的号召，不过他们几乎都是法兰西人或法兰克人。第一次十字军主要由法兰西人组成。在比利时，布永的领主戈弗雷公爵（Duke Godfrey），兼具僧侣与士兵的品格——战争和治理人民方面都堪称英明神武，对宗教却异常狂热。塔兰托的博厄蒙德（Bohemund of Taranto）伯爵是罗贝尔·吉斯卡尔之子，继承了其父全部的勇敢与韬略，他梦想为自己及其诺曼底军队在从前属于拜占庭的近东的领土上建立一个王国。同他一道前去的是他的侄子奥特维尔的坦克雷德（Tancred of Hauteville），后者命中注定要成为塔索（Tasso）的《被解放的耶路撒冷》（Jerusalem Delivered）中的英雄：英俊、无惧无畏、慷慨豪爽、热爱荣誉和财富，被公认的理想的基督教骑士。图卢兹的伯爵雷蒙曾在西班牙痛击穆斯林，如今他年事已高，将自己和巨额财富献给更大的战争，然而，傲慢的性情妨害了他的高贵，贪得无厌则玷辱了他的虔诚。
这些军队分头前往君士坦丁堡。博厄蒙德建议戈弗雷攫取该城，被戈弗雷婉拒，后者表示自己此番前来不过是为了打击异教徒。然而博厄蒙德等人攻下该城的念头并未打消。这些血性的、半野蛮的西方骑士，鄙视聪明而有教养的东方绅士，认为他们不过是些玩物丧志的异教徒而已。他们带着惊讶和艳羡，虎视眈眈地盯着藏在拜占庭都城的教堂中、宫殿里和市场上的财物，认为它们理当归勇者所有。阿列克赛可能早就察觉他的这些救世主心存觊觎之意，也已见识过了先前的那些游民（他们的失败使他饱受西方的责难），这使他格外谨慎，也许有些心口不一。他向西方求援以对付土耳其人，但还未与聚集于城门外的欧洲联军达成协议。他也无法确信这些战士是否像期待得到耶路撒冷那样渴望着君士坦丁堡，也不敢肯定他们从土耳其人手中夺回原属拜占庭的土地后，会将其归还给他的帝国。最后，一方面他为十字军提供给养、津贴、运输工具和武力支援，并给领袖们可观的贿赂；另一方面他要贵族发誓效忠于他，以他为至高无上的封建君主。贵族们为金钱诱惑，纷纷宣誓。
1097年初，各自为政的、共约3万人的军队越过了海峡。幸运的是，穆斯林比基督徒更加四分五裂。不但西班牙的伊斯兰教势力耗散殆尽，北非的伊斯兰教势力也因宗派斗争而日益削弱。然而，在东方，埃及的法蒂玛哈里发王朝占据了南叙利亚，而他们的敌人，塞尔柱土耳其人则占据了北叙利亚及大部分小亚细亚。亚美尼亚起来反抗塞尔柱征服者，并与“法兰克人”结盟，欧洲的军队便趁机围攻尼西亚。土耳其驻军献城投降（1097年6月19日），因为阿列克赛保证他们的生命不受威胁。这个希腊人皇帝于城堡之上高举帝国的旗帜，保护该城免遭洗劫，他以贵重的礼物安抚十字军领袖，但基督徒士兵却抱怨他与土耳其人结盟。经过一个星期的休整，十字军向安条克进军。他们在多里列（Dorylaeum）附近遭遇奇利杰·阿尔斯兰（Qilij Arslan）率领的土耳其军队，浴血奋战并夺取胜利（1097年7月1日），然后穿越小亚细亚。除了缺水和食物，以及西方人无法适应的酷热，这一路他们并未遇见其他敌人或障碍。在500英里的行军中，很多男人、女人、马和狗死于极度的饥渴。穿越托罗斯山脉时，一些贵族与主力分开，各自征战——雷蒙、博厄蒙德和戈弗雷征服了亚美尼亚，坦克雷德和鲍德温（Baldwin，戈弗雷的兄弟）征服了埃德萨。鲍德温更在那里以谋略和卑鄙的手段建立了第一个东方拉丁公国（1098年）。十字军士众抱怨这种种延误，于是贵族们归队，继续向安条克进军。
写作《法兰克人的丰功伟绩》（Gesta Francorum）的编年史学家，把安条克描绘成一座“美丽非凡的、尊贵的和令人喜悦的城市”。十字军围城的八个月间，它一直顽强抵抗。许多十字军战士死于冰冷的冬雨或饥馁，有些则幸运地发现了“甘甜的祖克拉草（zucra）”，咀嚼它来抵抗饥饿。这是法兰克人第一次尝到糖的滋味，并学习如何栽培药草来榨糖。妓女提供的甜食则很危险。一位和蔼可亲的执事长与他的叙利亚情妇在果园中幽会时，被一个土耳其人杀死。1098年5月，传来消息，说穆斯林大军在卡伯加（Karbogha，摩苏尔王子）的率领下向这里逼近，安条克恰在大军到达前几天失守（1098年6月3日）。许多十字军战士害怕抵挡不了卡伯加的进攻，便取道奥龙特斯河乘船逃走。阿列克赛带领一部分希腊军队赶来，却被逃军误导，以为基督徒已被击败，便中途折返保卫小亚细亚——他将为这件事受尽责备。为了使十字军恢复士气，来自马赛的彼得·巴托罗缪（Peter Bartholomew）神父佯称发现了刺入基督肋下的矛，基督徒赴战之际，将这支矛高高举起，以为神圣的旗帜。在教皇代表阿代马尔（Adhemar）的呼唤下，三名白袍骑士纵马从山上奔出，阿代马尔称他们是殉道者圣莫里斯、圣狄奥多尔和圣乔治，于是十字军军心大振，在博厄蒙德的指挥下取得了决定性的胜利。其后，巴托罗缪被控有意欺骗，判以火灼来分辨真伪。他从焚烧的柴火中间穿过去，似乎毫发未伤，然而却在第二天死于灼伤或极度紧张。圣矛则被从旗帜上取下来。
博厄蒙德众望所归，成为安条克亲王。表面上他的领地臣属阿列克赛的采邑，事实上，他是独立的统治者。十字军的首领们认为，阿列克赛既不来援助他们，曾经的誓约也即不复存在。他们花了六个月的时间休养生息，重整残破的军队，然后拔营向耶路撒冷进发。经过三年的作战，十字军的人数已经减至12万。终于，1099年6月7日，他们疲惫而欢欣地来到耶路撒冷的城墙下，但是颇具讽刺性的是：他们要讨伐的土耳其人已在一年之前被法蒂玛王朝驱逐出去。哈里发保证给前往耶路撒冷朝圣与巡礼的基督徒安全，以为媾和的条件，但是博厄蒙德和戈弗雷要求对方无条件投降。法蒂玛1000人的卫戍部队抵抗整整四十天，7月15日，戈弗雷和坦克雷德才率军攻破城墙。历尽苦难，十字军崇高的目的终于要达成了。然后，据目击者阿吉勒斯（Agiles）的雷蒙神父描述：
让人惊骇的事到处可见，许多穆斯林被砍头……其他的人被箭射杀，或被迫从高耸的城堡上往下跳。有些人被折磨数天后用烈火烧死。街上到处都是成堆的头、手和脚，有一个人在人和马的尸堆中策马前行。
