迦太基在第一次布匿战争失败之后，因失去地中海里的西西里岛，开始向欧洲西部的伊比利亚半岛发展。罗马警告汉尼拔不可穿过埃布罗河。汉尼拔无视此警告，继续领军向东北进军。罗马令迦太基交出汉尼拔受审，被拒绝之后宣战。这次战争是三次布匿战争中最长也最有名的一场战争，最后以罗马的胜利宣告结束。这场战争中迦太基名将汉尼拔的出色表现奠定了他在西方军事史上的地位；同时，汉尼拔在扎马之战中的失败也成就了大西庇阿的威名。

第一次布匿战争失败之后，迦太基因失去地中海里的西西里岛，迦太基人在哈米尔卡·巴卡的带领下，开始向欧洲西部的伊比利亚半岛发展。公元前226年罗马和迦太基签订和约，规定两国以埃布罗河为界，在伊比利亚半岛上划分势力范围，条约规定埃布罗河南岸城市萨贡托享有自治权。

但在公元前219年，汉尼拔出兵攻打萨贡托，该城向罗马求援，但罗马忙于与伊利里亚人交战未出兵相助，迦太基军队在围困该城8个月，占领该城。事后罗马令迦太基交出汉尼拔受审，被拒绝之后向迦太基宣战，迦太基政府也下令汉尼拔对罗马开展军事行动。

汉尼拔制订的战略计划是，在公元前237年—前219年征服的伊比利亚境内建立一支强大的军队，越过阿尔卑斯山，从北面对罗马实施突然的猛烈突击。

与此同时，罗马方面也积极开展对迦太基的进攻，罗马元老院决定派遣一支以执政官普布利乌斯为主将，并以卡尔弗斯为副将的军队前往伊比利亚。这支军队包括60艘舰船，10000步兵，7000骑兵。

跨越阿尔卑斯山

公元前218年春，汉尼拔率领迦太基军队自迦太基在伊比利亚的基地新迦太基出发，沿着海岸向北东北方向进军。在埃布罗河，他将他的军队一分为三，汉尼拔用了几个星期的时间，通过军事或外交手段征服了比利牛斯山和埃布罗河之间的各个部落，但在这些战斗中迦太基军队减员严重。在比利牛斯地区，在他让大约11000名左右不愿离家的伊比利亚士兵驻守在这些新征服的领土，并把伊比利亚的兵权交与其弟哈斯德鲁巴。随后， 汉尼拔率领大约50000名步兵和9000名骑兵开始进军。

普布利乌斯得知迦太基军队已经开始行动，他将伊比利亚的兵权交与其弟，亲自率领一部分军队前往阻击汉尼拔，防止他入侵意大利本土。汉尼拔避开了罗马的军队，带领他的军队到达阿尔卑斯山脚下，这时已是公元前218年的秋季了。汉尼拔在阿尔卑斯山中开路架桥，克服种种困难，率军越过了险峻的阿尔卑斯山脉，进抵到陶拉西亚一带帕杜斯河谷地。

迦太基军队在五个半月的时间内行军1600余公里，沿途克服了险恶的天然障碍和许多部落的抵抗到达波河。普布利乌斯在闻得汉尼拔的行踪后，率军前来。双方军队在提契诺河畔开战（提基努斯河战役），迦太基军队击败罗马军队，这是汉尼拔越过阿尔卑斯山后的第一战。

这时，执政官隆加斯得知汉尼拔的消息后前来支援。双方沿着特雷比亚河对峙，时为公元前217年初春。第二天，罗马人渡过特雷比亚河，双方正式开战，在战斗中迦太基军队里的战象起到了不小的作用，汉尼拔击溃了罗马军队。

这些胜利的取得，使汉尼拔巩固了后方。罗马元老院决定由盖乌斯·塞尔维利乌斯·格米努斯和盖约·弗拉米尼乌斯(Gaius Flaminius)分别出任公元前217年的执政官。同时在罗马公民中征兵，和在特雷比亚河战役后剩余的兵力组成13个军团。这些军队分别被派往各个战线，盖约·弗拉米尼乌斯率30000步兵，3000骑兵驻守在意大利本土。盖乌斯·塞尔维利乌斯·格米努斯率40000士兵驻守波河流域。前任执政官普布利乌斯被任命为代执政官，重新派到伊比利亚去。

公元前217年春，迦太基军队越过亚平宁山脉，秘密侵入伊特鲁里亚，进入意大利本土。鉴于迦太基军队在该地的存在将严重威胁到罗马城的安全，执政官盖约·弗拉米尼乌斯火速领兵前往，他们在特拉西梅诺湖附近相遇。汉尼拔利用盖约·弗拉米尼乌斯急于求战的心理，在特拉西梅诺湖畔的狭窄隘口巧妙设伏。盖约·弗拉米尼乌斯不顾军队在急行军之后的疲惫，和汉尼拔开战。迦太基军队成功将罗马军队引入埋伏中，加以歼灭，特拉西梅诺湖战役中40000名罗马士兵全部战死，盖约·弗拉米尼乌斯也在战斗中阵亡。随后，汉尼拔歼灭了在伊特鲁里亚驻守的8000罗马士兵。

得知此消息后，罗马城中人心惶惶，将一切人员都武装起来，并推荐费边为独裁官，积极准备防御战。但是汉尼拔却领军前往亚得里亚海沿岸，在那里他大肆劫掠，获得了很多战利品。盖乌斯·塞尔维利乌斯·格米努斯率领驻守在波河流域的40000士兵赶来。费边清楚的认识到汉尼拔的军事能力，故而在取得了盖乌斯·塞尔维利乌斯·格米努斯军队的兵权后，仅仅跟随汉尼拔，但不与其正面决战，并通过打击汉尼拔的补给线来消耗迦太基军队的作战能力。这种战术在后世被称为“费边战术”。汉尼拔攻下基罗尼亚城，并在那里过冬。费边的这种拖延做法引起了罗马人不满，他们迫切的希望消灭汉尼拔和他的军队。适逢费边的独裁官六个月任期已满，罗马人在罗马城内重新组织了4个军团，推举卢基乌斯·埃米利乌斯·保卢斯和盖乌斯·特雷恩蒂乌斯·瓦罗为公元前216年的执政官。

两位执政官率领大约80000名士兵前去和汉尼拔作战，双方将军队驻扎在一个叫坎尼的地方。

公元前216年8月2日早晨，迦太基军队和罗马军队都做好准备，罗马军队排成三排，埃米利乌斯·保卢斯指挥中路军，瓦罗指挥右翼，塞维利阿指挥左翼。迦太基军队中路向外突出，骑兵部署在两翼。坎尼会战正式开始后，汉尼拔运用钳形战术，下令中路军不断后撤，诱使罗马军队深入，最后由两翼军队顺势包夹，其置于两翼的精锐骑兵从后路包抄，成功完成了对罗马军队的包围。在战斗中汉尼拔派遣500名士兵假投降到罗马军队中，伺机而起，大大地扰乱了罗马军队。是役，罗马军队阵亡78000名士兵，包括罗马军队的统帅、执政官埃米利乌斯·保卢斯与两位前任执政官，两位刑事推事，四十八位军团将校里的三十九位，与一百八十位罗马元老，而迦太基方面仅有2000士兵伤亡。

之后汉尼拔转向亚平宁半岛南部。公元前216-214年，汉尼拔三次进攻诺拉城，均被马塞拉斯击退（诺拉之战）。迦太基军队相继攻占了培提利亚、亚壁、普利亚等城市。

公元前213年，汉尼拔攻克了南意大利城市塔兰托（塔兰托袭击战），又趁胜控制了除利吉姆外的全部大希腊区城市，开始了迦太基和罗马在意大利南部的争夺战。

公元前216年秋，讨伐山南高卢的罗马共和国老将卢基乌斯·波斯图米乌斯·阿尔比努斯在席尔瓦利塔娜战役中惨败并被杀。

公元前215年，迦太基将领秃头的哈斯德鲁巴率军支援撒丁人汉普西科拉发起的反罗马起义，战败于德西马努战役，汉普西科拉战死，秃头的哈斯德鲁巴被俘。

公元前218年秋，罗马人在西班牙首战获胜，老西庇阿的兄弟格涅乌斯·西庇阿在西萨战役中击败并活捉了主将汉诺（汉尼拔的外甥），随后，哈斯德鲁巴·巴卡及其副将希米尔科也在埃布罗河战役中被格涅乌斯·西庇阿打败。

但此后，罗马军队遭到惨败，罗马在西班牙的军队被哈斯德鲁巴·吉斯戈和马戈·巴卡全歼，两名统帅都在战斗中阵亡。这场灾难后不久，罗马元老院作出了一个决定，派遣24岁的大西庇阿率领罗马军队远征西班牙。

大西庇阿随后在那里取得了一系列辉煌的战绩.

公元前209年攻占了迦太基人在伊比利亚的主要基地之一新迦太基城（新迦太基之战）。

公元前208年在巴埃库拉战役击败汉尼拔之弟哈斯德鲁巴·巴卡。

公元前206年的伊利帕战役对西班牙的迦太基军队取得了决定性胜利。

公元前212年起，主动权转到罗马人手中。他们采取积极的行动夺回原在意大利、西西里、伊利里亚和马其顿的失地。马塞拉斯在公元前212年的叙拉古战役中攻占了背叛罗马的叙拉古。

公元前211年，罗马执政官执政官普尔凯尔和弗拉克斯又攻克了投靠汉尼拔的卡普阿（卡普阿之战）。

哈斯德鲁巴企图从伊比利亚驰援汉尼拔，但因在公元前207年的梅陶罗河战役中被击溃，而告失败。反罗马同盟因罗马人屡屡获胜而日趋瓦解。

公元前204年，年仅33岁的大西庇阿率罗马军队在迦太基附近登陆，迦太基急忙召汉尼拔回军救援。

公元前202年的扎马战役中，汉尼拔仍按常规列队和战法，西庇阿则不循常规，他把一、二、三线各部队重叠配置，中间留出空道，以便让战象通过,努米底亚国王马西尼萨出兵相助。交战开始以后，当汉尼拔军的战象冲到西庇阿军前沿时，西庇阿的一线部队突然鼓角齐鸣，喊声大作，汉尼拔军的战象受到惊吓，有的停滞不前，有的转身向自己的战阵冲去，还有的受罗马军的投枪击伤后逃跑。西庇阿抓住这一有利时机，命令骑兵迂回包抄，同时将3线兵力集中起来，向汉尼拔军正面猛攻，一鼓作气，终于取得了胜利。汉尼拔军战死约2万人，汉尼拔落荒而逃。这是汉尼拔第一次也是最后一次吃了败仗。迦太基人战败。

迦太基战败。

公元前201年，迦太基人同罗马人签订了苛刻的和约。根据和约规定，迦太基撤离西班牙、地中海诸岛，迦太基人失去北非本土以外的一切领地，并完全解除武装、自卫队不得赴海外作战，将整个舰队交给罗马，且任何自卫战争必须先和罗马协商等，并偿付巨额战争赔款，迦太基失去所有伊比利亚半岛的领土，海军解散，只能有10艘防海盗的船。同时选100名14岁以上30岁以下男子赴罗马充当人质。

迦太基此后实力大损，再无力量对抗罗马。数十年后的第三次布匿战争，罗马灭亡迦太基。