Bol dosť sebakritický a bol si veľmi dobre vedomý svojich teoreticko-odborných nedostatkov. O džeze mal inú mienku ako Whiteman, nechcel ho používať iba ako lákavý obal. Veľmi dobre vedel, že džez stojí a padá na osobitostiach svojich improvizujúcich interpretov. Rozhodol sa napokon, že napíše skladbu, kde sa stane džez jeho vyjadrujúcim prostriedkom. Bude to navyše dielo, ktoré bude mať americký rukopis, nakoľko džez je výsostne americkým produktom. Gershwin si zvolil formu rapsódie, keďže táto forma mu pri stvárňovaní tematických myšlienok ponechávala mnoho voľnosti. Gershwin napísal pôvodnú partitúru Rhapsody in Blue pre dva klavíry. Skladbu inštrumentoval Ferde Grofé, ktorý inštrumentoval aj iné diela hrané Whitemanovým orchestrom, mal teda s touto prácou skúsenosti. Rhapsody in Blue mala premiéru 12. februára 1924 v Aeolin Hall, klavírny part hral skladateľ. Úspech koncertu, na ktorom sa zúčastnili i mnohé významné hudobné osobnosti (skladatelia S. Rachmaninov, I. Stravinskij, dirigenti Leopold Stokowski, Walter Damrosch, virtuózi Jascha Heifetz, Mischa Elman a Fritz Kreisler), bol obrovský. Obecenstvo šalelo od vytrženia, konečne počuli hudbu, v ktorej sa spoznali. Kritici sa predbiehali v superlatívoch a iba máloktorí z nich vyčítali skladbe “nedostatok kontinuity v hudobnej stavbe”, jej “lacnú harmóniu”. Formová voľnosť však bola skladateľovým zámerom. Sám hovorí: “Pojal som skladbu ako akýsi hudobný kaleidoskop Ameriky s našou zmesou rás, s našou nekonečnou túžbou, s našimi blues, s naším veľkomestským šialenstvom.”

Gershwin neprestáva komponovať ľahkú hudbu. Pokračuje v práci pre Brodway. Pre hudobnú komédiu Lady Be Good napíše piesne Fascinating Rhythm a rovnomenná pieseň Lady Be Good sa stane jedným z najúspešnejších swingov. Pre túto hru napísal i pieseň The Man I Love, ktorú síce z predstavenia vyškrtli, ale veľmi skoro sa táto pieseň stala svetovým šlágrom a známa je dodnes. Gershwinovo meno sa dostáva už aj do povedomia Európy. Muzikály s jeho piesňami nehrá už len Brodway, ale i Picadilly.

KONCERT F-DUR
Popri intenzívnej práci na ľahkej hudbe sa v Gershwinovi rodili nové nápady a nové podnety pre hudbu vážnu. Walter Damrosch, dirigent Newyorskej filharmonickej spoločnosti, si u neho objednal skladbu pre veľký orchester. Gershwin na nej začal pracovať v júli 1925. Pôvodný Newyorský koncert dostal napokon prísnejší názov: Koncert F-dur. Je to prvá skladba pre klavír a orchester, kde Gershwin pracoval s premyslenejšou predstavou, presnejšou formou a pritom sa nevzdal svojho prirodzeného výrazu.