Druhá etapa prebiehala od 18. septembra 1973 do 21. júla 1975, tentokrát v Ženeve. Hlavnou úlohou v tejto etape bolo vypracovanie návrhov dokumentov ku všetkým bodom poriadku rokovaní, aby potom mohli byť predložené na schválenie v tretej, záverečnej etape. Ťažiskom činnosti a hlavným orgánom druhej etapy bol Koordinačný výbor. Mimo tohto výboru boli vytvorené aj ďalšie tri komisie (tzv. koše).

I. komisia (bezpečnosť)
II. komisia (hospodárske otázky)
III. komisia (spolupráca v humanitárnych a iných oblastiach)
 
Všetky rozhodnutia boli schvaľované podľa zásady jednomyseľnosti (konsenzu). Účinnosť tejto zásady predpokladala rozsiahlu zhodu záujmov a názorov na prejednávané otázky, vzájomné rešpektovanie názorov a zodpovedný prístup k problémom.

Celoeurópska konferencia bola príkladom mnohostrannej diplomacie, pre ktorú vytvorila priaznivé podmienky atmosféra uvoľňovania napätia a duch spolupráce. Do apríla 1974 boli dohodnuté formulácie mnohých dôležitých zásad – vrátane zásady nedotknuteľnosti hraníc. Čo bol značný úspech konferencie. Rozhodujúci význam pre tento úspech mali schôdzky a rokovania L. I. Brežneva a ďalších vedúcich činiteľov sovietskeho zväzu s vedúcimi predstaviteľmi socialistických krajín a taktiež západných krajín. (Tu spadá aj stretnutie Brežneva s francúzskym prezidentom Pompidourom v Picunde v dňoch 12.-13. marca 1974, ktorí sa dohodli na zintenzívnení súčinnosti ZSSR a Francúzska v úsilí o ďalšie uvoľnenie napätia v Európe a o úspešnom dokončení konferencie). (Veľký význam pre pokrok v Ženeve malo aj stretnutie politického poradného výboru členských krajín Varšavskej zmluvy, ktoré sa konalo 17.-18.marca 1974 vo Varšave, kde boli vyzvaní štátnici a politici, aby sa usilovali o zaistenie úspechov celoeurópskej konferencie).

No už začiatkom roku 1974 sa objavili ťažkosti v práci konferencie a začalo ochabovať tempo redigovania textov návrhov. Ťažkosti boli spôsobené medzinárodnou krízou, ktorá v tom období vypukla na Cypre, v mnohých kapitalistických krajinách sa vystriedali vlády a niektoré západné delegácie znovu začali spôsobovať ťažkosti pri prejednávaných otázkach.

Pre ďalší posun v rokovaniach bolo dôležité to, že Koordinačný výbor 26. júla schválil rozhodnutie, akúsi komplexnú dohodu, ktorú navrhli neutrálne krajiny a schválili aj všetci účastníci konferencie. Boli v nej stanovené hlavné zásady spolupráce v humanitárnych oblastiach, včlenené do preambuly. Zároveň bol do formulácie zásady zvrchovanej rovnoprávnosti zaradený zvláštny passus, že "účastnícke štáty navzájom rešpektujú právo voliť a rozvíjať svoje politické, spoločenské, ekonomické a kultúrne systémy rovnako ako i právo vydávať svoje zákony a správne predpisy", pričom ale bola táto formulácia upresňovaná v tom zmysle, že sa účastnícke štáty budú pri uplatňovaní svojich zvrchovaných práv riadiť svojimi právnymi záväzkami vyplývajúcimi z medzinárodného práva a tiež rešpektovať a plniť uznesenie konferencie o bezpečnosti a spolupráci v Európe.

(Prvoradý význam pre úspešné dokončenie konferencie mali rokovania a schôdzky generálneho tajomníka ÚV KSSS Brežneva v roku 1974 s vedúcimi činiteľmi iných účastníckych štátov konferencie.)!