júna 1940, krátko po obsadení Paríža nemeckými vojskami, prišiel do Osvienčimu prvý transport židov, ktorí dostali rozkaz postaviť si svoj vlastný tábor. Hőss musel okrem vybudovania tábora zabezpečiť aj vysušenie močiarov a zaplavených miest. Existoval jediný spôsob – postaviť na rieke Visle priehradu. Hőss žiadal na výstavbu 4 roky. Dostal jeden. Preto nenechal robotníkov ani minútu oddychovať. Úmrtnosť medzi nimi dosiahla obrovské rozmery, čo však neprekážalo, lebo z nových transportov automaticky zapĺňal medzery. Stavba bola hotová 24 hodín pred určeným termínom.
Hőssovým pričinením sa zakrátko stal koncentračný tábor Osvienčim–Birkenau veľkým mestom. Bol však primalý na to, aby mohol prijať príliv čoraz väčšieho množstva väzňov. V tábore nastala strašná situácia, zúrili tu epidémie a krivka úmrtnosti rýchlo stúpala.
Čoskoro sa Hőss dozvedel štátne tajomstvo, ktoré vyplývalo z prejavu Adolfa Hitlera: Fűhrer nariadil definitívne vyriešiť židovskú otázku v Európe. Na túto úlohu vybrali tábor Osvienčim. Fűhrer bol totiž tej mienky, že ak nevyhubia židov teraz, vyhubia oni neskôr nemecký ľud. Tábor Osvienčim vybral preto, lebo sa tu stretávajú štyri železničné trate a je ľahko prístupný pre transporty. Okrem toho krajina je málo obývaná a poskytuje preto priaznivé podmienky na vykonanie tajnej operácie...
V tej dobe sa v Poľsku nachádzali už tri vyhladzovacie tábory: Belzek, Wolzek a Treblinka, ktoré však nepracovali spoľahlivo, pretože neboli schopné zlikvidovať za šesť mesiacov viac ako 80.000(!) jednotiek (používanie výrazu jednotka – 1 žid už bolo bežné). K tejto informácii sa vtedy Reichsfűhrer vyjadril: “Taký výsledok je predsa smiešny”.
Hőss sa musel pripraviť na to, že v prvých šiestich mesiacoch celkový počet dodávok dosiahne okolo 500.000 jednotiek. Jeho úlohou bolo urobiť v každom transporte výber z tých, ktorých práve dovezú. Osoby schopné pracovať mal dať k dispozícii priemyselnému alebo poľnohospodárskemu podniku v Osvienčime-Birkenau. Jeho ďalšou úlohou bolo posielať štatistické údaje o práceneschopných osobách z každého transportu, ktoré sa podrobili špeciálnemu ošetreniu. To znamenalo, že bude potrebné ošetriť až 2.800 jednotiek za 24 hodín. Hőss dostal upozornenie, že po šiestich mesiacoch sa tempo odosielania transportov podstatne zvýši.
O pár dní navštívil Rudolf Hőss tábor Treblinka. Všetci väzni boli v barakoch, nemohli vyjsť von. I keď bol tábor menší ako Osvienčim, bolo tu dvakrát viac strážnych veží a plot bol nabitý elektrinou. Za barakmi s väzňami sa nachádzal jeden oveľa dlhší barak ako ostatné s hermeticky uzavierateľnými oknami.