Rimania zverili obranu proti Hannibalovi Publiovi Korneliovi Scipionovi. Ten sa domnieval, že bojiskom bude Hispánia, a preto vyplával týmto smerom. Hannibal sa medzitým bez problémov dostal do južnej Gálie a tu po prvýkrát narazil na Scipia. Oboch vojvodcov čakalo pri vzájomnom strete prekvapenie, nemohli o sebe vedieť. Bitka sa zmenila v šarvátku prieskumných oddielov, z ktorej vyšli lepšie Rimania, ale Scipio vedel, že to nič neznamená a rozhodol sa stiahnuť do Itálie. Časť síl pod vedením svojho brata Gnaea Kornélia poslal tiež do Hispánie. Kartáginci sa tak v podstate bez odporu dostali k Alpám. Teraz všetko stálo proti Hannibalovi, počasie bolo nanič a horské kmene kládli Punom pasce všade, kde to len trochu šlo. Po pätnástich dňoch pochodu sa konečne trosky veľkej armády dovliekli do podhoria Álp na italskej strane. Prechod týchto hôr sa rovnal porážke v obrovskej bitke, Hannibal vraj hovoril o tom, že v Itálii mal 20 000 pešiakov a 6000 jazdcov. To by znamenalo stratu asi polovice ľudí, s ktorými sa vydával cez Alpy. Zo strategického hľadiska to samozrejme bolo veľké víťazstvo. Hannibal teraz mohol ohroziť samotný Rím.

Scipio sa vylodil v Pise a vyrazil Hannibalovi naproti. Mal prisľúbené posily zo Sicílie, kde bola rozložená väčšina légií. Hannibal medzitým skonsolidoval sily a vydal sa na juh. Cestou sa pokúšal spojiť s miestnymi kmeňmi, čo sa mu v prípade Keltov aj podarilo.

Scipio so svojimi neskúsenými légiami sa rozhodol, že skúsi Hannibala poraziť alebo aspoň spomaliť jeho postup, aby mohli doraziť posily. K bitke došlo na rieke Ticino, na sever od Pádu. Morálka Rimanov nebola dobrá, zatiaľ čo Hannibalovi sa podarilo vyvolať u svojich mužov nadšenie pre boj. V bitke samotnej sa vyznamenali numidskí jazdci, ktorí obrátili na útek rímsku jazdu a potom i légie. Scipio mal čo robiť, aby nestratil celú svoju armádu a sám bol pri tom vážne zranený. Po bitke odviedol tých, ktorí prežili za najväčšiu italskú rieku Pád. Tú Hannibal bez boja prekročil. V tej dobe prišiel na sever s posilami Sempronius Longus, plný sebadôvery. Rozhodol sa bez ohľadu na Scipia zviesť s Púnmi bitku. Tá (poznáme ju ako bitku na rieke Trebii) dopadla omnoho horšie než tá predchádzajúca a Rimanov veľa neprežilo.

Hannibal samozrejme odpočíval, získaval spojencov a nových vojakov. Jeho plánom bolo odrezať Rím od spojencov a dostať tak pyšné mesto do neriešiteľnej situácie - Rím by sa sám neubránil. K tomu, aby sa Hannibal dostal do strednej Itálie, musel prekročiť Apeniny. Prvý pokus nedopadol vôbec dobre a Hannibal sa musel vrátiť a uspokojiť sa so stratou 7 slonov. Druhý pokus začal nádejne, ale jeho pokračovanie sa stalo nočnou morou kartáginských žoldnierov. Pochod cez bažiny stál tisíce ľudských životov, zo slonov zostal jediný a jeho jazdec, Hannibal, stratil po neznámej chorobe jedno oko. Napriek tomu však Hannibal svojim vojakom vrátil v krátkej dobe bojaschopnosť. Proti nemu sa vydal konzul Gaius Flaminius, ktorého však Hannibal na hlavu porazil pri Trasimenskom jezere.

V Ríme vypukol po bitke zmätok, ešte umocnený porážkou 4000 mužov, ktorých poslal Flaminiov kolega konzul Gnaeus Servilius. V tejto situácii si Rimania zvolili diktátora. Tým sa stal Quintus Fabius Maximus, jeho akýmsi nižším kolegom potom Marcus Rufus. Fabius síce nemal závratnú popularitu, ale svojou stratégiou asi zachránil Rím. Odmietal vojenský stret s Hanibalom a len zhromažďoval sily a Kartágincov znepokojoval nájazdami. Tým si u svojich spoluobčanov vyslúžil vlnu kritiky, ktorú viedol hlavne Rufus. Prostý ľud totiž túžil po rozhodujúcej bitke, ktorá mala Hannibala konečne poraziť.

Medzitým Hannibal zvažoval ďalšie kroky. Nakoniec, namiesto toho aby tiahol na Rím, vydal sa do Umbrie, kde vojakom rozdelil korisť a nechal ich odpočívať. Tento krok považujú už antickí autori za podivný, pretože sa tak Púni dostali ďaleko od Ríma. Hannibal si asi myslel, že pochod na Rím už je nad jeho sily. Každopádne šanca zostala nevyužitá. V Kartágu samotnom si však Hannibal získal bezvýhradnú podporu.

Hannibal mal veľké potiaže so zásobovaním, a preto musel prechádzať Itáliou a drancovať bohaté kraje. V Apúlii sa na Hannibala nalepilo vojsko Gnaea Servilia a prenasledovala ho podobne ako pár mesiacov predtým Flaminiovi muži. Tentokrát však dostali Rimania Hannibala do úzkych. V rokline mu uzavreli cestu a skaza Kartágincov vyzerala veľmi reálne. Hannibal si však spomenul na boj, v ktorom padol jeho otec, pustil na Rimanov (mimochodom rovnakú lesť použil aj Žižka) vozy naplnené drevom a zapálené a prerazil bez strát cestu - Rimania totiž ustúpili. Po bitke sa Hannibal presunul do mestečka Gerunium, kde hodlal prezimovať. Ešte predtým však Hannibal Rimanov znovu porazil a len príchod diktátora Fabia zachránil légie pred ďalšou pohromou. Veliteľom porazeného vojska bol v podstate tiež diktátor Minucius.

Po ďalšej bitke pri Cannae sa Hannibal musel rozhodnúť čo ďalej. Jeho vojsko utrpelo pomerne ťažké straty, ale rímska moc sa zdala zlomená. Niet divu, že mnoho kartáginských veliteľov vrátane tých najvýznamnejších radilo Hannibalovi, aby tiahol na Rím. To však Hannibal odmietol - nevieme prečo, je však veľmi pravdepodobné, že to bolo z nejakého vážneho dôvodu. Namiesto vojenskej zahájil diplomatickú ofenzívu, ktorá mala Rím zbaviť spojencov v strednej Itálii. To sa však ukázalo ako márna snaha - spojenci zostali v drvivej väčšine verní i po bitke pri Cannae. Hannibalovi sa podarilo získať posily z Kartága a rovnako cenné boli i peniaze, ktoré poslal kartáginský senát.

Pre Rím znamenala katastrófa pri Cannae vzpruhu. Veliteľ porazených Varro, ktorý vyviazol z bitky, bol privítaný v Ríme ako muž, ktorý ani v najhoršej chvíli nezúfa nad stavom vlasti. Do čela štátu sa opäť dostal diktátor - Marcus Iunius Pera. Ten za cenu drastických opatrení obnovil silu armády - alebo ju aspoň zvýšil na maximálnu možnú úroveň. V légiách teraz bojovali vedľa mužov i sedemnásťroční chlapci, väzni a otroci. Misky váh sa začali pomaly, ale iste presúvať na rímsku stranu.

Hannibal sa presunul na juh, kde hodlal vybudovať protirímsku základňu s centrom v meste Capua. To sa mu do istej miery podarilo, i keď rozhodne nie celkom. Na kartáginskú stranu sa pridalo sicílske kráľovstvo, ktoré predtým bojovalo proti Púnom a do boja vyrazil i macedónsky kráľ Filip V., ktorý chcel od Rimanov Balkán. Rím teraz bojoval všade a jeho situácia opäť nevyzerala dobre.

Roky 215 - 211 pred n.l. sú považované za prelom vo vojne. Ukázalo sa, že len Rím môže zjednotiť Stredomorie. Na jar 215 pred n.l. síce Kartáginci dobyli dva prístavy a konečne sa k nim pripojili posily zo samotného Kartága, ale obliehanie iných miest sa stalo veľmi zdĺhavou a krvavou záležitosťou, ktorá navyše nemohla zvrátiť výsledok vojny. Posledným veľkým Hannibalovým úspechom v Itálii sa stalo dobytie juhoitalského Tarentu roku 212 pred n.l. (nepadla však citadela, ktorú Kartáginci nikdy nedobyli). Od tej doby prakticky Hannibalova armáda stratila akýkoľvek vojenský význam a získala rolu pozorovateľa. Naopak Rimania začali dvíhať hlavy a od roku 213 pred n.l. obliehali Capuu, ktorá po dvoch rokoch padla. Aby mesto zachránil, odvážil sa Hannibal k tomu, čo nechcel ani po bitke pri Cannae - k ťaženiu do Ríma. Asi tušil, že jeho vyhliadky sú malé, ale napriek tomu obišiel Rimanov pri Capue a roku 211 pred n.l. tiahol k centru impéria. Tam však nedokázal nič, len spôsobiť paniku (odtiaľ pochádza známe Hannibal ante portas - Hannibal pred bránami), lebo vojensky na Rím ani nezaútočil. Bolo jasné, že Hannibalovi dochádzajú sily, zatiaľ čo Rimania silneli zo dňa na deň.

Rímsky úspech nezostal osamotený - dobyli tiež Tarent, čo bola veľmi dôležitá základňa Kartágincov. Na Sicílii sa bojovalo o Syrakúzy, ktoré padli roku 212 pred n.l. (pri tom bol zabitý Archimédes) a Rimanom od tej doby patril i tento ostrov. V Macedónii si Rimania uvolnili ruky tým, že Filipovi dali nejaké menšie územie výmenou za mier. V samotnej Afrike bojovali Kartáginci proti numidskému kráľovi Sifakovi, čo si vyžadovalo odvelenie určitého počtu síl z Hispánie.

Tu Rimania bojovali pod velením oboch Scipiov, Púnom velil Hannibalov brat Hasdrubal, veľmi schopný vojvodca. Veci sa vyvíjali lepšie pre Rimanov - dobyli späť severné provincie a preniesli boje opäť k Saguntu. Scipiovia si boli takí istí porážkou Kartágincov, že rozdelili svoje vojsko na dve časti. To bola katastrofálna chyba a obaja bratia roku 211 pred n.l. padli v prehratých bitkách. Ako ich nástupca sa dostavil mladý, vtedy dvadsaťštyriročný muž, Publius Cornelius Scipio, neskôr jeden z najväčších vojvodcov Ríma. Ten dobyl Nové Kartágo a do roku 205 pred n.l. i celú Hispániu.

Toto víťazstvo mohlo celkom dobre stáť na počiatku porážky Rimanov. Kartáginská armáda pod velením Hannibalovho brata Hasdrubala totiž opustila Hispániu a vydala sa do Itálie, kde mala posilniť ochabnuté a nečinné zbory Hannibala. Príchod Kartágincov vyvolal prechod časti Keltov k nepriateľovi a vyvolal protirímske nálady aj v doposiaľ lojálnych častiach strednej Itálie. Rím postavil núdzové vojsko podobne ako v bitkách na začiatku vojny, ale tentokrát bitku - na riečke Metaure - prehrali. Hlava Hasdrubala tak skončila v kartáginskom tábore Hannibala. Bolo zrejmé, že Kartágo začína bojovať o svoje prežitie.

Kartáginci skúsili znovu poslať vojakov do Itálie. Druhý Hannibalov brat Mago sa vylodil v severnej Itálii, aby sa spojil s Hannibalom (roku 205 pred n.l.), jeho sily však neboli dostatočne silné, aby prerazil. Tiež pokus konvoja 100 lodí so zásobovaním a prevoz posíl pre Hannibala bol odrazený pri Sardínii a len asi pätina lodí sa zachránila a vrátila sa späť do prístavov.

V tej dobe už Rimania chystali výpravu do Afriky, ktorej mal veliť Scipio. Transport 400 lodí dorazil po menších problémoch do Afriky, aby zničil túto zem odplatou za údel Itálie po väčšinu vojny. Stalo sa tak v rovnakom roku, ako sa v Itálii vylodil Mago. Dlhú dobu sa k útoku len pripravoval, situáciu mu sťažila i zrada mocného numidského kráľa Syfaka, ktorý prešiel na stranu Kartága. Rimania teraz podporili vodcu inej časti numidských kmeňov Masinissu, ktorý Syfaka po bojoch zajal a dobyl jeho kráľovstvo. Kartáginci požiadali o mier za tvrdých podmienok, ktoré by snáď i Rimania prijali, ale plnú moc v riešení problémov dali Scipiovi, ktorý zvolil pokračovanie vojny.