Rusko vstúpilo do tejto vojny takmer absolútne nepripravené, čo neskôr priznal aj imperátor: „Začali sme vojnu ako slepí, neodhadnúc silu protivníka.“ Vrchným veliteľom štyridsaťtisícovej armády, ktorá obliehala Narvu, bol vojvoda de la Crois, ale bojom v podstate velil samotný Peter. Avšak v ten deň, keď sa na bojisku objavil Karol XII., Peter armádu opustil.

Výsledky tejto krátkej bitky boli pre Rusov katastrofálne, Švédi zatkli 10 generálov aj vojvodu de la Croisa a tretina vojakov padla za obeť. Nakoniec sa zachránilo okolo 23 000 vojakov, aj to asi len preto, že Karol XII. nedal príkaz na ich prenasledovanie. Peter sa poučil, začal verbovať novú armádu a podnikol prísne kroky proti dezertérstvu (ako inak – na výstrahu dezertérov popravoval, neskôr im začal na ľavej ruke vypaľovať kríže). Čoskoro mal Peter vybudovanú dobre vyzbrojenú armádu európskeho vzoru, o čom Karol XII. nemal ani poňatia. Prvé úspechy zožal pre Rusko B. Šeremeťjev, keď jeho armáda porazila v Livónsku oddiel generála Schlippenbacha. V rokoch 1702-1704 postupovala Šeremeťjevova armáda od jednej pevnosti k druhej, všetky vojenské aktivity Rusov boli úspešné. Aj Estónsko a Livónsko už boli v rukách Petra Veľkého, ktorý v roku 1705 postupoval ďalej na západ.

Peter teoreticky nepočítal s tým, že uvedené oblasti by mohli pripadnúť Rusku a bol ochotný vzdať sa ich pri prípadných mierových rokovaniach, okrem oblasti v okolí ústia Nevy, kde vznikal jeho „raj na Zemi“ – Petrohrad. Predtým tu stála švédska pevnosť, ktorú Rusi dobyli 1. mája 1703 a premenovali ju na Petropavlovskú pevnosť, ktorá v prvej polovici 19. storočia slúžila na politické väznenie nepohodlných intelektuálov, medzi ktorými nechýbali ani také osobnosti ako Dostojevskij či Černyševskij. Petrohrad sa stal cárovou srdcovou záležitosťou, naháňal sem desiatky tisícok nevoľníkov, ktorí v tomto nehostinnom, bahnitom kraji mnohokrát našli smrť. „Sotva sa nájde vo vojenských dejinách bitka, ktorá by si vyžiadala viac strát ako stavba Petrohradu. Peter nazval nové hlavné mesto rajom, pre ľud však bolo veľkým cintorínom,“ tvrdil neskôr Kľjučevskij.

Poslednou, rozhodujúcou bitkou medzi Rusmi a Švédmi sa stala bitka pri Poltave. Jej začiatku predchádzali menšie stretnutia medzi oboma stranami, ktoré mali za cieľ vyprovokovať súpera ku generálnej bitke. Karol XII. nechcel o uzatvorení prímeria ani počuť, preto sa rozhodol na jar v roku 1709 začať obliehať Poltavu, ktorej dobytie mu malo otvoriť cestu smerom na Ukrajinu. Hlavný boj sa odohral 27. júna 1709 a skončil sa zdrvujúcou porážkou Švédov. Karol XII., ktorého už deň pred tým priniesli pred vlastných vojakov na nosidlách, sa len zázrakom vyhol zajatiu a našiel útočisko u tureckého sultána, ktorý ho neskôr odmietol Petrovi vydať. Švédska armáda bola rozprášená a Peter si mohol spokojne poznamenať: „Teraz je už definitívne položený, s pomocou božou, základný kameň Petrohradu.“ Peter však naďalej trval na vydaní Karola XII.

A poslal k Turkom posla, ktorý sa im mal povyhrážať. Turci sa nielenže nezľakli, ale dokonca posla zajali a vypovedali Rusku vojnu. Cár sa znova ocitol v čele vojnového ťaženia štyridsaťtisícovej armády. V deň svojho odchodu z Moskvy stihol ešte vyhlásiť za svoju manželku Katarínu, s ktorou nažíval spokojne a mal s ňou dcéry Annu a Alžbetu. V kostole sa zosobášili vo februári 1712, keďže chcel, aby jeho žena a deti mali lepšie spoločenské postavenie v prípade jeho smrti vo vojne s Tureckom.