Si verificò così una situazione paradossale e insostenibile: nei territori incorporati, l' amministrazione non individuava altra soluzione se non quella di espellere gli Ebrei verso il Governatorato generale; e il governatore aspettava la "vittoria", che gli avrebbe dato la possibilità di sbarazzarsi di tutti gli Ebrei inviandoli sull'isola del Madagascar. Heydrich già nel 1940 doveva sapere che la 'soluzione Madagascar' era inattuabile ciononostante cominciò a far partire la seconda fase del piano: la ghettizzazione. I tempi non furono rapidi: il Ghetto di Varsavia venne completato nell'autunno 1940, quello di Lublino venne istituito nell'aprile 1941. Sin dall'inizio vennero adottati i provvedimenti già collaudati in Germania e quelli che per ragioni politiche non erano stati presi. Il 23 novembre 1939 tutti gli ebrei del Governatorato dovettero portare un bracciale bianco con una stella di David blu. Nel dicembre il capo delle SS e della Polizia del Governatorato Krüger vietò agli ebrei di lasciare le loro residenze ed impose loro un coprifuoco dalle 21 alle 5 del mattino. Il 26 gennaio 1940 fu proibito loro di utilizzare i treni. Il 28 novembre 1939 vennero costituiti gli "Judenrat". Di fatto il sistema era ovunque lo stesso: le SS convocavano il Presidente della Comunità o il suo vice e lo nominavano ordinandogli di costituire lo "Judenrat". Di fatto i dirigenti delle precedenti Comunità Ebraiche divennero quasi senza mutamenti i dirigenti degli Judenrat. La differenza stava nei compiti, adesso gli stessi dirigenti dovevano occuparsi di trasmettere gli ordini e i regolamenti tedeschi alla popolazione ebrea, nell'utilizzo della polizia ebraica per eseguire la volontà dei Tedeschi e nel consegnare al nemico nazista i beni degli Ebrei, il lavoro degli Ebrei, le vite degli Ebrei. Con il passare del tempo, i Consigli ebraici divennero sempre meno capaci di adempiere la parte dei loro compiti che riguardava l'assistenza; e finirono assai più con il diventare esecutori degli ordini nazisti.

I ghetti vennero creati per primi nei territori incorporati alla Germania nell'inverno 1939-1940. Il primo fu quello di Lodz nell'aprile 1940. Nell'ottobre 1940 venne creato il ghetto di Varsavia. A Cracovia venne fondato nel marzo 1941 e Lublino nell'aprile. Sempre nel 1941 veniva creato il ghetto di Radom, quello di Czestocowa e di Kielce. Nel dicembre 1941 veniva creato il ghetto di Lvov. Si trattava dei ghetti di maggiore importanza, occorre tenere presente che furono creati numerosi altri ghetti in città minori. I ghetti non erano chiusi tutti allo stesso modo: in alcuni (come a Varsavia) venne eretto un vero e proprio muro, in altri palizzate di legno, in altri ancora furono stesi reticolati. Venivano prescelte aree degradate della città dalla quale venivano fatti evacuare gli abitanti "ariani" e reinsediati gli ebrei. Le norme stabilite dalle Leggi di Norimberga non furono applicate: nei ghetti vennero inviati sia i coniugi non ebrei di coppie miste, sia i "mischlinge". Si può dire che alla fine del 1941 tutti gli ebrei dei territori incorporati e del governatorato generale erano stati rinchiusi nei ghetti. Se da un lato i tedeschi crearono una burocrazia amministrativa per i ghetti, dall'altro gli ebrei costituirono intorno allo Judenrat una struttura burocratica complessa, dotata di una sua polizia d'ordine, di svariati uffici. Di fatto una parte di questi uffici rispondevano alle esigenze della popolazione, un'altra alle esigenze degli stessi tedeschi che volevano ordine, continuo controllo statistico, controllo dei lavoratori. Man mano che la pressione tedesca aumentò furono proprio le strutture burocratiche ebree incaricate del controllo e della repressione che crebbero di importanza.

Il primo problema nei ghetti era l'alimentazione. Appare evidente che non potendo uscire dai ghetti gli ebrei non potevano lavorare e quindi non avevano modo di acquistare il cibo che occorreva loro per vivere. Sembra incredibile che la tendenza razionale dei tedeschi non avesse previsto in anticipo questo problema. In realtà ciò si spiega con l'idea iniziale nutrita dai nazisti: il ghetto doveva essere una soluzione provvisoria, di passaggio, prima della "soluzione finale". Pochi dirigenti nazisti, probabilmente nessuno, pensava nel 1940-41 che i ghetti sarebbero durati anni. Lodz, che fu il primo ghetto, funzionò da guida per gli altri ghetti. In questo senso quando Hans Frank e il suo staff del governatorato generale decisero la costituzione del ghetto di Varsavia decisero che, all'interno del ghetto, si sarebbero dovute includere delle strutture produttive. Sin dall'inizio però alcuni burocrati economici tedeschi avevano esaminato le possibilità che - attraverso il lavoro - gli abitanti del ghetto avrebbero potuto sostentarsi da soli. I calcoli fatti furono negativi. Quando il ghetto di Varsavia venne costituito i nazisti sapevano (a parte qualche inguaribile ottimista) che il ghetto ebraico non avrebbe potuto autosostentarsi. Oltre a ciò le strutture economiche e produttive non potevano nascere improvvisamente ed essere immediatamente produttive. Dall'altra parte l'unico modo per sopravvivere era dare fondo alle poche ricchezze rimaste. Ma ovviamente chi possedeva qualcosa era una minoranza, la maggioranza non aveva nulla. Per riequilibrare questa situazione i dirigenti dei ghetti imposero tasse: sulle razioni di pane, sulle persone che erano esentate dal lavoro, sugli affitti, sui funerali, ecc. Era il disperato tentativo di ridistribuire le ricchezze rimaste. Ovviamente i ghetti in questo modo furono sempre e costantemente in deficit. I tedeschi lo sapevano bene e furono sempre attenti a fornire ai Consigli Ebraici i mezzi per i bisogni più elementari. I tedeschi volevano ordine, l'ordine era garantito dai Consigli Ebraici e lasciare che questi non potessero essere in grado di svolgere il loro lavoro non conveniva ai nazisti. Occorreva un Consiglio forte che garantisse l'ordine. Se da un lato però i tedeschi cercarono di mantenere l'equilibrio della sopravvivenza, dall'altro lato adottarono misure che misero sempre in forse la sopravvivenza stessa. In pratica i tedeschi in primo luogo confiscarono il più possibile i beni ebraici, poi proibirono di importare generi alimentari, infine consegnarono la forza lavoro ebraica nelle mani di industriali che pagavano somme irrisorie rispetto ai veri salari dell'epoca. Così vennero colpite le risorse superstiti, si impedì che si acquistassero alimentari al di fuori del ghetto, si abbassò il valore di mercato della forza lavoro. Il risultato inevitabile fu la fame. Una fame continua e lacerante che prima favorì l'insorgere di tutta una serie di malattie, e poi condusse alla morte i più deboli: anziani e bambini. Tuttavia sarebbe sbagliato pensare che i tedeschi avessero perso di vista il loro obiettivo. Se da un lato desideravano che l'ordine regnasse nel ghetto dall'altro non avevano nessuna intenzione che gli ebrei ne uscissero vivi. L'arma principale era il cibo, il cibo proveniva soltanto dai tedeschi. E d'altronde i tedeschi sistematicamente spostavano le risorse alimentari verso la Germania. I polacchi erano costantemente sottoalimentati e in qualche modo dovevano arrangiarsi. Gli ebrei - chiusi nei ghetti - non avevano modo di arrangiarsi e dipendevano da ciò che i tedeschi passavano loro. E questo cibo era poco e di qualità infima. Gli ebrei morivano per le strade di inedia, la mortalità era triplicata e la diffusione di malattie spaventosa. In più i tedeschi consegnavano il cibo agli Judenrat che a loro volta lo ripartivano e in questo passaggio le ineguaglianze si moltiplicavano. Era una disperata lotta per la sopravvivenza e in questa a vincere erano i funzionari degli Judenrat, i poliziotti della polizia ebraica e chiunque avesse denaro per comprare. Teniamo presente infatti che il cibo non veniva distribuito gratuitamente ma razionato e a pagamento. Chi non aveva un lavoro non aveva in cambio cibo ed era destinato a morire. Se pensiamo che la razione ufficiale di pane per un mese a Varsavia nel 1942 era di due chili si capisce bene che le razioni erano al di sotto del livello minimo di sopravvivenza. Il mercato nero per chi poteva permetterselo, le disuguaglianze di trattamento, la corruzione erano all'ordine del giorno. Secondo una statistica dei medici ebrei del ghetto di Varsavia alla fine del 1941 gli impiegati del Consiglio Ebraico disponevano di 1665 calorie al giorno, gli artigiani di 1407, gli operai salariati 1225, la "popolazione in media" 1125. In realtà la maggioranza aveva a disposizione non più di 800 calorie. A maggio i bambini cominciarono a morire. La sottoalimentazione provocava epidemie, il tifo era la più frequente. I tedeschi sapevano bene che cosa stava accadendo. In un rapporto segreto del 21 maggio 1942 un funzionario della propaganda scriveva: "Il numero dei decessi nel Ghetto continua ad oscillare attorno ai 5.000 al mese. Qualche giorno fa è stato registrato un primo caso di cannibalismo dovuto alla fame. In una famiglia ebrea, essendo morti nel giro di pochi giorni il padre e i tre figli la madre ha mangiato un pezzo dell'ultimo figlio deceduto. Un ragazzo di dodici anni. Ciò tuttavia non l'ha salvata: anche lei è morta di fame due giorni dopo.".

Prima della liquidazione dei ghetti a Lodz erano morte 45.000 persone su 200.000. A Varsavia su 470.000 ne morirono 83.000.