Odišiel praco-
vať do tifliského geofyzikálneho observatória.
Roku 1900 sa Stalin zoznámil sa 32-ročným profesionálnym revolucionárom Viktorom Kurnatov-
ským, ktorý pricestoval do Tiflisu a neskôr tam bol aj uväznený. Skôr než sa Kurnatovskij objavil v Gruzínsku, stretával sa s Leninom. Známosť s Kurnatovským a čítanie Leninových prác si získali mladého Stalina. Stal sa z neho Leninov stúpenec. Po rozdelení ruskej sociálnodemokratickej strany na boľševikov a menševikov sa Stalin rozhodne postavil na stranu boľševikov, hoci najmä v Gruzínsku prevládal vplyv menševikov. Stalin prešiel do ilegality na jar 1901. Zúčastňoval sa na organizovaní rôznych štrajkov a demonštrácii, aj známej batumskej demonštrácie v marci 1902. V Batumi Stalina zatkli a poslali do vyhnanstva na východnú Sibír, kde prežil asi dva roky. Už vtedy bol praktikom revolúcie. V rokoch 1900 – 1910 napísal viacero článkov a brožúr, takmer všetky v gruzínčine. Boli uverejnené v gruzínskej sociálno demokratickej tlači. Revolúcia rokov 1905 – 1907 umožnila Stalinovi preukázať aj jeho ďalšie schopnosti. Práv on dostal príkaz uskutočniť niektoré veľké teroristické akcie, alebo „exy“ (ako sa vtedy nazývali). V podstate to boli lúpeže bánk, poštových vozov a parníkov, ktoré v tých časoch povoľovali boľševici ako prostriedok na doplnenie straníckej pokladnice a na nákup zbraní. Mimoriadne známou sa stala ozbrojená lúpež tifliskej štátnej pokladnice, ktorá priniesla do straníckych fondov vyše tristotisíc rubľov. Roku 1907 Stalin prešiel pracovať do organizácie SDRSR v Baku. Kvôli jeho účasti na „exoch“ bol jeho pobyt v Tiflise nebezpečný. A navyše v sociálnodemokratickom hnutí v Gruzínsku prevládali menševici, ktorí sa stavali proti teroru. Stalin sa zúčastňoval na organizovaní v tých časoch najväčších robotníckych akcií robotníckej triedy v Baku, ktoré si všimol aj Lenin. Viac ráz ho zatkli a poslali do vyhnanstva, ale jemu sa vždy podarilo ujsť a obnoviť ilegálnu činnosť na Kaukaze.
V tomto období umrela po niekoľkých rokoch manželstva jeho prvá manželka Jekaterina Svanidzeová. Stalin svoju mladú manželku veľmi miloval a jej smrť vôbec neprispela k zmäkčeniu jeho povahy. Stalinov syna Jakov zostal vo výchove u príbuzných. Otec sa o neho veľmi nestaral a málokedy si naňho spomenul.
Na VI. pražskej konferencii SDRSR v januári 1912 Stalina v jeho neprítomnosti kooptovali za člena ústredného výboru a začlenili ho do Ruského byra ÚV SDRSR.
Prvý raz sa Stalin stretol s Leninom na Tammerforskej konferencii boľševikov roku 1905 a potom sa s ním stretával na IV. a V. zjazde SDRSR.