Po výzve ku generálnemu štrajku bol Broz zatknutý znovu potom, čo mu polícia podstrčila do bytu 2 bomby. V Záhrebe ho odsúdili na 5 rokov nepodmienečne. Po vynesení rozsudku Josip zvolal: ”Nech žije komunistická strana Juhoslávie”. Prešiel niekoľkými väzeniami a tu ho aj zastihla správa o štátnom prevrate v roku 1929, keď kráľ Alexander obvinil politické strany zo zneužívania parlamentu, na rozbíjanie štátu a národa. Kráľ zrušil ústavu aj parlament a nastolil absolutistickú monarchiu. Jeden z prvých dekrétov, ktoré vydal, bol ”Zákon na ochranu štátu”, ktorý stanovil trest 20 rokov žalára, za komunistickú činnosť. Tito ešte o to väčšmi propagoval komunizmus ako spoluväzňom, tak bacharom.

  12.marca 1934, po odsedení si 2046 dní opustil väzenie, aby sa tam už nikdy nevrátil. Po prepustení sa mal Tito odobrať do rodného Kumrovca a tu žiť pod policajným dohľadom. V tomto období začal používať meno Tito, so zámerom uniknúť vládnemu dozoru. Necelý polrok potom začal Broz opätovne pracovať pre komunistickú stranu. Vďaka tomu cestoval s falošnými dokladmi po celej Európe.

1.5 Tito- agent Kominterny
  Roku 1935 bol poslaný politbyrom podať hlásenie o situácii v Juhoslávii Kominterne do Moskvy. Tu bol ubytovaný v hoteli Lux, podobne ako ostatní funkcionári Kominterny. Dostal krycie meno Walter Friedrich a oficiálne pracoval na sekretariáte Kominterny pre balkánske krajiny. Zúčastnil sa na 7.kongrese Kominterny v Moskve za účasti 513 delegátov zo 65 krajín sveta. Nevybral si však najlepší čas, lebo sa ocitol v centre tých najkrutejších stalinských čistiek. Mnoho jeho spolupracovníkov z hotela Lux, kde boli ubytovaní zahraniční agenti Kominterny, cez noc jednoducho zmizlo a veľa ich bolo krivo obvinených zo špionáže a trockizmu. Väčšina funkcionárov strany vrátane generálneho tajomníka Milana Gorkiča, ktorý žili v emigrácii v ZSSR, sa ocitla v mlynici stalinských represií. Stalinova tajná polícia- NKVD, popravila 120 funkcionárov a Kominterna dokonca rozmýšľala o rozpustení Komunistickej strany Juhoslávie. ”Súdruh Walter” cítil smrteľné nebezpečenstvo a tak sa snažil chovať čo možno najnenápadnejšie.

Po zrušení jeho miesta Tito po 22 mesiacoch opustil Moskvu. Na rozdiel od mnohých súdruhov svoj pobyt tu prežil a v októbri 1936 sa vratil do Viedne, aby odtiaľto riadil stranícky aparát. Komunistická strana podľa pokynov Kominterny zmenila svoju národnú politiku. Juhosláviu už nepovažovali za umelý výtvor versaillského systému ktorý treba rozbiť a nahradiť nezávislými štátmi, ale za mnohonárodnostnú federáciu, kde bude mať každý národ právo na sebaurčenie. Tito často cestuje a koordinuje vnútorný vývoj strany so zahraničným komunistickým hnutím. V roku 1937 sa stal generálnym tajomníkom Komunistickej strany Juhoslávie. Nová línia sa v jeho rozhodovaní prejavila v reorganizácii strany a vznikom dcérskych komunistických strán Slovinska a Chorvátska.

  Intenzívne pracoval aj na získavaní dobrovoľníkov pre španielsku občiansku vojnu, pre boj proti diktátorovi Frankovi. V Španielsku, v rámci medzinárodných brigád bojovalo okolo 1300 Juhoslovanov. Toto číslo mohlo byť aj vyššie, no loď ”La Corse”, plná dobrovoľníkov, bola zadržaná ešte v juhoslovanských teritoriálnych vodách. V občianskej vojne zahynulo približne 700 Juhoslovanov, no 300 tých, ktorý sa vrátili, vytvorilo základ veliteľského zboru budúcej partizánskej armády.