Román je napísaný formou zápiskov benediktínskeho mnícha Adsona z Melku, ktorý rozpráva príbeh zo svojej mladosti. Odohráva sa v nemenovanom kláštore na severe talianska v roku 1327.
Na začiatku sa Adso stretáva s františkánom Viliamom z Baskervilu, u ktorého má pracovať ako pisár. Spolu prichádzajú do opátstva, kde sa o niekoľko dní uskutoční stretnutie cisárskych a pápežských teológov. Opát povie Viliamovi o tajomnej smrti mladého mnícha Adelma a požiada ho, aby odhalil vraha. Zároveň mu zakáže prístup do knižnice, ktorá je najväčším pokladom kláštora. Počas návštevy skriptória sa stanú svedkami roztržky medzi mladými mníchmi a starým slepým Jorgem o význame smiechu. Jorge ho považuje za niečo diabolského.
Na druhý deň je ranná omša prerušená nálezom mŕtveho mnícha Venantia. Bendik z Uppsaly povie Viliamovi a Adsonovi o vzťahu knihovníkovho pomocníka Berengára k obom mŕtvym. V noci potom obaja preniknú tajným tunelom do Budovy, v ktorej sa nachádza aj knižnica. V skriptóriu nájdu kúsok pergamenu z knihy, ktorú ukradol neznámy zlodej z Venantiovho stola. Nakoniec sa dostanú aj do knižnice, ktorá je vlastne veľký labyrint, a skoro v nej zablúdia.
Ráno sa počas bohoslužby zistí, že Berengár zmizol. Viliam neskôr vymyslí plán bludiska a spolu s Adsonom objavia v kúpeľoch utopeného Berengára. Pri obhliadke Viliam zbadá, že mŕtvola má čierny jazyk, čo v ňom vyvolá podozrenie z otravy.
Do kláštora v tom čase prichádzajú obe delegácie – cisárska, na čele s Michalom z Ceseny, a pápežská, vedená kardinálom Bertrandom z Poggeta a inkvizítorom Bernardom Guim. Večer Adso a Viliam opäť vstúpia do knižnice, no nedokážu rozlúštiť odkaz na záhadnom pergamene, pomocou ktorého sa dá otvoriť tajná miestnosť.
Na piaty deň sa začína stretnutie vyslancov. Diskutuje sa o Kristovej chudobe a o právach cirkvi vlastniť majetky. Dišputa je náhle prerušená správou o násilnej smrti bylinkára Severína. Z vraždy obvinia celária Remígia, ktorého prichytili v Severínovom laboratóriu. Bernard Gui ho navyše obžaluje z kacírstva. Celárius sa zo strachu pred mučením prizná, že kedysi patril ku skupine odpadlíka fra Dolcina, no obvinenie z vraždy popiera. Ďalší deň ráno počas omše náhle zomrie knihovník Malachiáš. Aj na jeho tele sa nájdu čierne stopy. Opát požiada Viliama, aby ukončil vyšetrovanie a čo najskôr opustil kláštor. Ten však náhodou objaví spôsob, ako sa dostať do tajnej miestnosti v knižnici. V noci do nej s Adsonom vstúpia a stretnú slepého Jorgeho.