Jedným z elementov, ktorý výrazne rozširoval rady maďarského obyvateľstva v mestách boli židia. Tí sa po svojom plnom občianskom zrovnoprávnení roku 1867 začali postupne identifikovať s maďarským jazykom a národom a vymenili svoju dovtedy nemeckú národnosť za maďarskú. V konfesijnom vývine mesta naďalej výrazne dominovala rímskokatolícka cirkev, stúpal počet gréckokatolíkov i židov.
V polovici 19. storočia žilo v Sabinove 16 židov. K roku 1869 bolo v meste 239 židov. V druhej polovici 19. storočia najväčší vzostup zaznamenala židovská komunita. V tomto období stúpol počet jej členov viac ako 4-násobne a stali sa tak štvrtou najsilnejšou cirkvou v meste. Vďaka zákonom z 50-tych rokov a emancipačnému zákonu z roku 1867, ktoré odstránili posledné obmedzenia uplatnenia židov v hospodárskom a politickom živote, zaujali aj v Sabinove významné miesta vo výrobe, obchode a finančníctve. V 90-tych rokoch boli židmi nájomcovia mestských veľkostatkov, nájomcovia všetkých troch mestských mlynov, obidvcoh predmestských a dvoch vidieckych krčiem. Zaujímali vedúce miesta v sporiteľni i priemyselnom združení a viacerí židovskí obchodníci a nájomcovia boli členmi mestského zastupiteľstva, kde vytvorili asi tretinu virilistov.
So vzrastom počtu židovských obyvateľov mesta a zlepšením ich spoločenského postavenia sa ďalej konštituovala ich cirkevná organizácia. Roku 1853 sa utvorila samostatná židovská obec, no niektoré inštitúcie mali až do konca storočia spoločné s materskou obcou v Pečovskej Novej Vsi. Mala však vlastnú školu a roku 1870 začala stavať synagógu, na ktorú mesto venovalo 10 000 tehál a jednu pec vápna. Pri obci pôsobila aj ješiva (rabínske učilište). Napriek nedobudovanosti cirkevných inštitúcií sa stal Sabinov sídlmo rabínskeho a matričného obvodu. Sabinovská židovská obec sa prihlásila k ortodoxnému smeru.
Vo voľbách do obecného zastupiteľstva z 27. septembra 1931 obsadila Židovská strana so 178 hlasmi druhé miesto po Hlinkovej slovenskej ľudovej strane.
Od roku 1941 majetok židov postupne sčasti prešiel do rúk štátu, sčasti ho arizovali obyvatelia nežidovského pôvodu. V Sabinove sa to týkalo predovšetkým obchodníkov a drobných živnostníkov. Lekári a advokáti tiež museli odovzdať svoju prax árijským občanom. Podobne boli zo škôl vylúčení žiaci a študenti i učni. Domy, ktoré boli vo vlastníctve Židov boli tiež pridelené najprv na dočasnú správu, potom do vlastníctva árijským občanom.Židovskí majitelia domov mohli obývať len dvorné trakty rozlohou podstatne menšie než pôvodné byty.
Od marca 1942 sa začalo najkrutejšie obdobie pre židovských občanov v moderných dejinách Slovenska. Bol to začiatok transportov do koncentračných táborov, v ktorých absolútna väčšina z nich našla smrť. Prvý transport slovenských židovských dievčat a žien odišiel do Osvienčimu 26. marca 1942. V tomto transporte boli aj ženy a dievčatá zo Sabinova, ktoré najprv odtransportovali do do berného tábora v Poprade a odtiaľ do Poľska. Časť mužov bola deportovaná do pracovných táborov najprv na území Slovenska, neskôr aj oni boli vyvezení do táborov smrti. V Sabinovskom okrese pred začiatkom deportácií žilo 1 069 Židov, celkom na deportáciu bolo určených 1 033 osôb, skutočne deportovaných bolo 995 osôb, na základe prezidentskej výnimky spolu s rodinnými príslušníkmi bolo ponechaných 136 osôb. Zo sabinovských židovských rodín bolo deportovaných viac než 80%, z nich sa do mesta po ukončení vojny nevrátil nikto.
Tieto smutné a tragické udalosti boli zachytené aj v jednom z najúspešnejších československých filmov Obchod na korze, ktorý bol ocenený v roku 1966 Oscarom. Je podobenstvom o nemožnosti kompromisu so zlom - o malosti človeka a o prekonaní seba samého. Hrdinom tragikomického príbehu, odohrávajúceho sa v malom slovenskom meste počas 2. svetovej vojny, je stolár Tóno Brtko - slušný a pracovitý človek, ktorý sa zásluhou svojho švagra stane arizátorom obchodu na korze, patriaceho starej židovke Lautmanovej... Veľkou prednosťou diela sú nezabudnuteľné herecké výkony hlavných predstaviteľov - Jozefa Krónera a Idy Kaminskej.
