V počiatkoch nacizmu bol Hitler obklopený nepoddajnými údernými oddielmi SA /Sturmabteilung/, ktorých príslušníci nosili hnedé košele a rekrutovali sa z nezamestnaných vojakov, ktorí často navštevovali mníchovské pivnice, ako napríklad Torbräukeller blízko Izarskej brány. Tu boli Röhmen verbovaní k ochrane nacistických rečníkov na verejných schôdzach. S rastúcou finančnou podporou a so zreteľným politickým posolstvom Hitler cítil, že je schopný prijať novo nájdenú moc. K posilneniu svojej pozície, ale potreboval vážnu konfrontáciu so svojimi politickými protivníkmi. K tomu došlo 4. novembra 1921 na straníckej schôdzi v mníchovskom pivovare, ktorú sa komunisti a sociálni demokrati pokúsili rozbiť. Neskôr túto udalosť pomerne básnicky popísal: „ Tanec ešte nezačal, keď moje úderné oddiely – a preto sa tak od tohto dňa nazývajú – zaútočili ako vlci. Vrhali sa v skupinkách po osem až desať na svojich protivníkov, až ich pozvoľna vymlátili zo sály. Po piatich minútach už medzi nimi nebol skoro nikto, kto by nebol zakrvácaný. Potom padli dva výstrely z pištole a zo všetkých strán sa ozval ohlušujúci výskot. Takmer každé srdce plesalo nad týmto divadlom, ktoré vyvolalo vojnové spomienky.“

V auguste 1921 na schôdzi separatistického Bavorského zväzu nariadil Hitler svojim úderníkom, aby zaútočili na pódium. Bitka, ktorá vznikla tento mýtnik ukončila. Hitler bol potom na jar 1922 odsúdený na tri mesiace väzenia, z ktorých si odsedel len mesiac. V tomto čase sa spolu so svojimi stúpencami rozhodol, že k presadeniu svojich politických názorov potrebuje niečo okázalejšie ako iba krčmové bitky.

Počet mužov v hnedých košeliach rástol, ale viac než Hitlera poslúchali skôr Röma. Preto bolo nevyhnutné zostaviť oddanejšiu osobnú stráž. Do týchto jednotiek mali byť vybraní urastení muži „nordického“ pôvodu, čistej árijskej rasy, ktorí museli byť absolútne oddaní. Mali byť bojovým predvojom nacionálneho socializmu, s pôvodnou úlohou chrániť Hitlera a ostatných dôležitých členov strany.

Od roku 1921 Hitler so svojimi vernými neúnavne pracoval na posilnení členskej základne NSDAP /National-Socialistische Deutsche Arbeiter Partier/ a začal získavať priaznivcov po celom Nemecku. V marci 1923 jeho osobnú stráž tvorili len dvaja muži: Josef Berchtold a Julius Schreck, ktorí si hovorili Stabswache. O dva mesiace neskôr bola sformovaná nová jednotka – Stosstrupp Adolf Hitler, ktorej velil Josef Berchtold. V auguste toho istého roku vstúpil so NSDAP Heinrich Himmler a o štyri mesiace neskôr – 9. novembera 1923 – sa s cisárskym vojnovým práporom zúčastnil nevydareného mníchovského puču, ktorým sa Hitler pokúsil ovládnuť Bavorsko.

Puč skončil fiaskom. Niekoľko členov nacistickej strany bolo zabitých a ostatní zložili zbrane. Polícia radových členov identifikovala a poslala domov, zatiaľ čo ich vodcovia boli zatknutí.

Hitler bol uväznený a NSDAP bola zakázaná. Himmler sa vrátil do Landshutu, kde viedol inzertnú rubriku pre mníchovské pravicové noviny Völkischer Boebachter. Zároveň pôsobil ako sekretár Gregora Strassera, ktorý vo februári 1925 rozpustil svoje Nacionálne socialistické hnutie za slobodu a začlenil ich do obnovenej NSDAP. Strasser bol v auguste 1926 menovaný do funkcie ríšskeho vedúceho propagandy NSDAP a Himmler ho do hlavného stanu strany nasledoval ako jeho tajomník.
Hitler, keď spomínal na obdobie, ktoré bezprostredne nasledovalo po jeho prepustení z Landsbergu v decembri 1924, popísal počiatky SS takto: „Keď som vyšiel z Landsbergu, všetko bolo rozbité a rozptýlené do niekoľkých súperiacich skupín. Povedal som si, že potrebujem osobnú stráž, aj keď iba malú, avšak zloženú z bezpodmienečne oddaných mužov, ktorí budú ochotní zakročiť aj proti vlastným bratom. Radšej dvadsať mužov v každom meste (ak sa na nich človek môže úplne spoľahnúť) než nespoľahlivú masu.“ Boli to Maurice, Schreck a Heiden, ktorí v Mníchove sformovali prvú skupinu „rabiátov“, a boli zakladateľmi SS. Avšak potom pod Himmlerom sa z SS stal nebývalý zbor ľudí na smrť oddaný nacistickým ideálom.

V apríli 1925 poveril Hitler svojho šoféra Júliusa Schrecka zostavením nových úderných jednotiek. O niekoľko týždňov neskôr boli nazvané Schutzstaffel – ochranné oddiely. Nové jednotky SS mali byť organizované na nacionálnom o princípe. V septembri 1925 rozoslal Julius Schreck obežník do všetkých územných skupín NSDAP, v ktorom požadoval vytvorenie oddielov SS. Ich počty mali byť podľa vzoru SA stanovené na jedného veliteľa a desať mužov. To bol počiatok takzvaných desiatkových oddielov (Zehnstaffel). Členstvo malo byť exkluzívne. Žiadatelia mali mať dvoch ručiteľov a vek medzi 25-35 rokov. Museli byť policajne hlásení k trvalému pobytu na dobu päť rokov, byť zdraví a telesne zdatní. Nesmeli byť prijímaní urozprávaní jedinci, opilci a iní delikventi. Schreck bol neskôr nahradený Berchtoldom, ktorý bol pre zmenu v marci 1927 nahradený svojim zástupcom Eduardom Heidenom.

SA sledovala s nevôľou rast oddielov SS a ich miestni velitelia často používali oddiely SS k nedôstojným úlohám. SS nebolo umožnené zakladať jednotky v mestách, kde SA nemala plné stavy, ani nesmela siliť na viac než desať percent početného stavu SA. Ešte v roku 1928 mali jednotky SS len 280 členov. Himmlerove organizačné schopnosti však nezostali bez povšimnutia, a tak bol vymenovaný za zástupcu vedúceho SS a v januári 1929 ríšskym vedúcim SS s hodnosťou SS-Oberführer. Velil zhruba tisícke mužov, ale pre SA tento nevýrazný byrokrat nepredstavoval žiadnu väčšiu hrozbu. Bol mužom, ktorý len velil SS s úlohou zaisťovať jej podriadenosť SA.