这次的惨败，粉碎了罗马在南意大利的盟主权。萨莫奈人、布鲁希亚人、卢卡尼亚人、鲁图里人、克罗托纳人、洛克立人及卡普亚人都加入内高卢，归附汉尼拔。只有翁布里亚、拉丁同盟及埃特鲁里亚依然坚定如故。锡拉库萨领袖希伦二世虽然至死效忠罗马，但其继任者则宣布拥护迦太基。马其顿国王菲利普五世害怕罗马经由伊利里亚向东扩张，自动与汉尼拔结盟，并向罗马宣战。迦太基政府现在也有了兴趣，送了少量援兵和补给品给汉尼拔。在逃往卡流苏门的那些罗马残军中，有些青年贵族认为局势已经无望了，便策划着逃往希腊。然而西庇阿认为他们的行为可耻，并努力刺激他们鼓起勇气来。罗马一个月来歇斯底里地担惊受怕，只有一小部警备部队保卫都城，以防汉尼拔来攻。高贵世家的主妇们流着泪奔往各寺庙，用她们的头发拂拭神像。有些人因其丈夫和儿子都已战死，便与外国人及奴隶同居，以免断绝香火。神显然已被冒犯了，为了重新博取神的恩顾，元老院再度批准以人做牺牲，活埋了两名高卢人和两名希腊人。
但是，波利比奥斯说：“罗马人处于真正危险时，才是最可怕的……诚然，他们现在败得那么惨，他们的军誉已被毁灭，可是，凭其政体的特别优异，凭其明智的意见，他们不但恢复了意大利霸权……且在几年当中，就变成了世界的主人。”内部的阶级斗争终止了，所有各团体皆以救国为急务。虽然税额早已高到无法忍受的程度，但现在的市民，甚至寡妇和儿童们，都自动地将其私蓄交给国库。每一个能拿起武器的人，都被征召从军，包括奴隶在内。元老院对从军的奴隶许下诺言，一旦胜利到来，他们就会获得自由。士兵们则都不要薪饷。罗马准备寸土必争，以对抗这只迦太基的新狮子。
但是，汉尼拔并没有到罗马来。他认为，一旦罗马城被攻，那些依然效忠罗马的各邦皆会派军向罗马集中，他自己的军队只有4万人，实在不足以围攻罗马城。即使攻下了，又怎能守得住？他的意大利同盟者，不但不能加强他的兵力，还会削弱他的兵力。罗马及其友邦召集军队，一旦攻击这些同盟，如果没有汉尼拔的援助，他们就会向罗马屈服。他的左右责备他过于谨慎，其中一人悲伤地说：“神并不把所有恩赐给予一个人。汉尼拔，你知道如何赢得胜利，却不知如何去利用胜利。”汉尼拔决定暂时等待，以俟迦太基、马其顿及锡拉库萨和他联合起来，发动多方面的攻势，以重占西西里、萨尔迪纳、科西嘉及伊利里亚，迫使罗马的势力局限于意大利。他释放了所有俘虏，唯独不放罗马人，而以他们向罗马索取赎金。罗马元老院拒绝其要求，汉尼拔就把大部分罗马俘虏送往迦太基做奴隶，其余的则照罗马的方式，命他们斗剑以娱乐士兵，有些人甚至斗死。汉尼拔攻下几座城市，然后就带着他的军队前往卡普亚冬营。
在所有他能选择的地方中，卡普亚是最愉快也最危险的地方。这个位于那不勒斯北方约12英里的意大利第二大城市，已从埃特鲁里亚人及希腊人那里学到了高尚的文化，也学到了邪恶的文化。汉尼拔的军队历尽艰苦到了那里，都认为在这个季节有权纵情于肉欲了。他们经过许多战役，已成为其主人心目中斯巴达式的无敌军人，然而现在却不再是无敌的了。在其后五年中，汉尼拔率领着他们，只获得一些小胜利。而罗马进围卡普亚，则使得他们的行动大受束缚。汉尼拔为解救卡普亚，进军到距离罗马数英里之处。罗马成立了25个新军团，总人数约20万人，而汉尼拔的兵仍旧只有4万人的限度，于是，他只好向南撤退。公元前211年，卡普亚被罗马军攻陷。卡普亚领袖们曾纵兵屠杀城内的罗马人，城陷之后，或被斩首，或自杀。其人民曾经坚定地支持汉尼拔，此时便被分别放逐于整个意大利。就在一年之前，罗马的马赛勒斯已经攻下了锡拉库萨。一年后，阿格里琴托（Agrigentum，西西里一城）也向罗马投降。
在这同一期间，罗马有一支军队，受两位老西庇阿指挥，去往西班牙，以牵制哈斯德鲁鲍尔。公元前215年，他们在埃布罗河击败哈斯德鲁鲍尔。然而不久，两位西庇阿皆战死于沙场，罗马军队所得又复失去。于是，他们的孩子大阿菲利加·西庇阿就被派到西班牙去，继承其父亲权力，指挥这里的罗马军队。他那时才24岁，比担任此职的合法年龄还差一截。但是，此时的元老院很愿放宽制度以救国家，平民会议也自动地愿意屈居元老院之下。人民都爱慕这个年轻的西庇阿，因为他不仅长得漂亮、能言善辩、智勇双全，而且虔诚、有礼及公正。他有这样一个习惯：在进行某一项事业之前，一定要到议政厅的寺庙去，与神交谈；当其胜利回来，则举行百牛大祭以酬诸神。他自信为天之宠儿，几次成功地使他这个信仰传遍各地，也使他的士兵充满信心。他很快就恢复了军队的纪律，经过长期围攻之后，终于攻下了新迦太基，把所得的贵重金属和宝石小心谨慎地缴交国库。西班牙的大多数城市皆向他投降，至公元前205年，西班牙就变为罗马的一个行省。
可是，哈斯德鲁鲍尔的主力部队却逃走了，这时候已经通过高卢及阿尔卑斯山而进入意大利。而哈斯德鲁鲍尔送给汉尼拔的信，却被罗马人截获，其战役计划因而泄漏。公元前207年，哈斯德鲁鲍尔的军队在梅陶罗河（Metaurus）与一部分罗马军相遇，尽管他指挥卓越，但还是被击败了。他看到战斗失败，与其兄相会的希望已失，于是跃入敌人阵中而死。罗马的史学家们，大概是以小说的方式告诉我们，胜利者把哈斯德鲁鲍尔的头砍下，派人南送，经过阿普里亚投入汉尼拔营中。汉尼拔深爱这个弟弟，他的死使汉尼拔精神上受到极大的打击。于是，汉尼拔带着他的日益减少的军队，撤退到布鲁提乌姆（Bruttium）。李维说：“这一年，他没有作战，罗马人也不敢去惹他，虽然他的希望已经一点一点地破灭，但他的声威还是那么伟大。”迦太基派遣100艘船，载运兵员及粮食去接济他，然而一阵暴风却把那些船只吹到了萨尔迪纳。这里的罗马舰队击沉及夺获80艘船，其余20艘艰难逃回本国。
公元前205年，这位青年西庇阿刚从西班牙获胜归来，就当选为执政官。他成立一支新军，渡海前往非洲。曾经长久拒绝支援汉尼拔的迦太基政府，请求汉尼拔回援其首都。我们试想，这位瞎了一只眼睛的战士，被源源不断的敌军逼到意大利的一个角落，看到自己15年艰苦经营的事业一无所成，所有的荣誉皆归结于无益与逃亡，他将作何感想？他的军队，有一半官兵拒绝登船随他回迦太基去。据其敌方的史学家说，他害怕罗马获得那些兵员，因而杀了2万名不服从命令的官兵。他离国36年之后，又回到故乡。他一登岸，就匆匆地成立一支新军，前往扎马去面晤西庇阿（大阿菲利加）——扎马在迦太基南方50英里（时值公元前202年）。这两位将军很礼貌地会过一次面，发现无法达成协议，于是开始会战。在汉尼拔一生中，这是第一次战败。迦太基士兵大多数是雇佣兵，为罗马步兵及努米底亚国王马西尼萨（Masinissa）的鲁莽骑兵所败，遗尸2万于战场。这时已经45岁的汉尼拔，英勇战斗不减当年，亲自攻击西庇阿并将其击伤，又攻击马西尼萨，一再整编其溃乱之兵，带着他们拼命反击。当一切希望都已消失时，他避开了被俘的危险，骑马到迦太基，宣布他不再参加战争，建议迦太基向元老院求和。西庇阿（大阿菲利加）颇为慷慨，他允许迦太基保留其在非洲的帝国，但须交出所有军舰，只许保有10艘三列桨战舰。对于非洲内外，非经罗马同意，不得从事战争。每年须付给罗马200塔伦（约72万美元），为期50年。汉尼拔宣称这些条款公道，劝迦太基政府接受了。
第二次布匿战争改变了西地中海的面貌，西班牙及其所有财富都归罗马所有，向罗马提供了征服希腊的基金。意大利再告统一，罗马成为毫无疑问的主人，并为罗马的船只及货物打开了所有路线及市场。但是，在所有古代战争中，这次战争是成本最高的。它蹂躏或损坏了意大利农田的半数，摧毁了400个市镇，杀死30万人。这次战争削弱了民主政治，因为它显示出，大众的议会不能明智地选择将领或指导战争。这次战争改变了罗马人的生活和道德，因为农业受害而商业获益；因为把乡下人征召入营，教以战斗的残暴，而军营中又盛行男女乱交；因为带回西班牙的珍贵金属，用于新的奢侈及帝国的扩张；因为它使意大利能够依靠自西班牙、西西里及非洲榨取来的小麦为生。总之，几乎罗马历史的每一阶段，都以这次战争为转折。
对迦太基而言，这是灭亡的开始。既然还留下那么多商业及那么一个帝国，其民生问题当可解决。但是，其寡头政治的政府太腐败了，把每年付给罗马的赔款全部让下层阶级负担，还要从中盗用谋利。大众党于是要求隐居的汉尼拔出来拯救国家。公元前196年，他当选为行政长官。他提议法院的104位法官应每年改选一次，且非经一年间歇，不得重任，他这个提案吓坏了寡头政治的政客们。元老院拒绝这个法案，他就向平民会议提出，从而使其通过。他凭这部法律及其程序，一下就建立了相当于罗马程度的民主政治。他严惩贪污，并追究其来源。他减轻市民的过重税额，把财政管理得很好，到公元前188年，就付清了罗马的全部赔款。
寡头政治的官僚们要除掉汉尼拔，便向罗马告密说，汉尼拔正在阴谋恢复战争。西庇阿（大阿菲利加）用尽其所有影响力，以保护汉尼拔，但被反对派所压倒。元老院顺应迦太基富人之意，要求汉尼拔投降。这位老战士于夜间逃走，骑马走了150英里，到达塔普苏斯（Thapsus），再由那里乘船前往安条克（Antioch），时值公元前195年。他发现安条克三世（Antiochus III，叙利亚塞琉古王朝的国王）对于与罗马的和战问题正在迟疑不决，便建议战争，于是成为国王的参谋之一。公元前189年，罗马在美格尼西亚（Magnesia）击败安条克，所提和平条件之一是将汉尼拔交给罗马军队。汉尼拔逃走，先到克里特岛，再到比提尼亚（Bithynia）。罗马人经过搜索，包围了他藏躲的地方。汉尼拔宁死不愿做俘虏。他说：“罗马人焦急已久，让我们替他们解除了吧，因为他们认为，为了等待一个老头子之死，已经付出太多的耐心了。”他随身带有毒药，随即就服毒而死，享年67岁。时值公元前184年。几个月后，他的征服者与仰慕者西庇阿（大阿菲利加）也追随他而去。
