Michelangelo správu oznámil Soderinimu, ktorý rozhodol, že obe zmluvy (zmluva na dvanásť apoštolov a zmluva na fresku) musia byť odložené a Michelangelo musí okamžite odcestovať do Ríma. Po príchode do Ríma Michelangelo navštívil Jacopa Galliho a dozvedel sa, že Jacopo je ťažko chorý. Po pár dňoch Michelangelovho pobytu v Ríme ho prijal pápež a oznámil mu, že chce, aby pre neho Michelangelo vytesal veľkolepý náhrobok s množstvom mramorových sôch. Michelangelo začal rozmýšľať nad náhrobkom a o niekoľko týždňov predložil pápežovi náčrty približne štyridsiatich sôch – Mojžiša, Ráchel, Ley, Ruth, anjelov, apoštola Pavla, sochu pápeža a niekoľko nahých otrokov. Pápež náčrty schválil a poslal Michelangela so Sangallom (ktorý bol v tej dobe hlavným pápežovým architektom) a s Bramantem (ďalší pápežov architekt) do Chrámu sv. Petra nájsť pre náhrobok vhodné miesto. Keď zistili, že na tak monumentálny náhrobok nie je v chráme dosť miesta, Sangallo navrhol, aby sa kvôli nemu dala postaviť úplne nová stavba. V týchto dňoch Jacopo Galli po dlhej a ťažkej chorobe umrel.
Michelangelo odišiel do Carrary, nájsť na náhrobok vhodný mramor a vrátil sa až na novoročnú recepciu k roku 1506. Po návrate zistil, že Bramante odhovoril pápeža od stavby kaplnky pre náhrobok a na mieste, ktoré pre ňu so Sangallom vybrali sa bude stavať nový Chrám sv. Petra, na ktorý bude vyhlásený konkurz. Pápež dal Michelangelovi k dispozícii dom na Piazza San Pietro a odmietol mu dať viac ako tisíc dukátov (peniaze, ktoré Michelangelo minul na nákup mramoru), kým neuvidí hotovú prvú sochu. Keď lode priviezli mramor, Michelangelo zobral k sebe tesára Cosima, ktorý mu pomohol postaviť drevený model prvých dvoch poschodí náhrobku. V marci pápež vyhlásil víťaza konkurzu na nový Chrám sv. Petra, ktorým sa stal urbinský architekt Bramante. Michelangelo to spočiatku nevedel pochopiť, bol presvedčený, že víťazom sa mal stať Sangallo, pápežov úradný architekt, keď mu však Leo Baglioni ukázal návrhy oboch architektov, uvedomil si, že pápež rozhodol spravodlivo – Bramantov návrh bol neporovnateľne lepší ako Sangallov. Súčasťou Bramanteho návrhov bol však plán, ktorý sa Michelangelovi vôbec nepáčil – zbúrať starý Chrám sv. Petra a uvoľniť tak miesto pre nový. V máji mala prísť z Carrary ďalšia zásielka mramoru a Michelangelo sa rozhodol zájsť za pápežom a požiadať ho o ďalšie peniaze. Pápež Michelangela niekoľkokrát odmietol prijať (Leo Baglioni Michelangelovi prezradil, že Bramante pápežovi nahovoril, že náhrobok by mu mohol priniesť nešťastie a privolať jeho smrť).