Det ble bestemt at det skulle gjennomføres en denazifisering, d.v.s. at alle som hadde deltatt aktiv i den nazistiske politikken og dens forbrytelser, skulle for det første fjernes fra alle offentlige stillinger og verv; og for det andre skulle de stilles for retten.

De allierte delte Tyskland mellom seg i fire okkuperte soner. Denazifiseringen ble gjennomført på svært forskjellige måter i de enkelte sonene. I sonen som ble kontrollert av Sovjetunionen ble denazifiseringen knyttet sammen med en sosialistisk omorganisering av økonomien og samfunnet, slik Sovjetunionen selv var organisert. Her ble mer enn 500.000 personer fjernet fra sine tidligere stillinger og erstattet med kommunister. Det sovjetiske hemmelige politiet opprettet "spesialleire“ hvor naziforbrytere skulle sone sin straff, men etter hvert ble det også satt inn folk i disse leirene som stilte seg kritisk til Tysklands sosialistiske enhetsparti (SED), eller som hadde blitt angitt.

I den amerikanske sektoren ble denazifiseringen til å begynne med håndtert veldig grundig. Man delte opp de mistenkte i 5 kategorier, og tiltale ble siden reist mot dem. Men i lys av den begynnende kalde krigen ble den tidligere fienden og det okkuperte landet til en mulig framtidig partner i kampen mot kommunismen, og dermed ble denazifiseringen innstilt i 1948. Det ble kritisert at mange av forbryterne slapp unna på denne måten, mens de "små fiskene" hadde fått mer eller mindre harde straffer. 

I tillegg til denazifiseringen satset amerikanere på den såkalte "gjenopplæring", d.v.s. de opprettet undervisningsopplegg og fordelte publikasjoner som skulle fremme et demokratisk tenkesett.

I den engelske og franske sektoren ble denazifiseringen aldri prioritert særlig høyt. De mente at det var viktigere at landet fikk en godt organisert stat, og at økonomien skulle fungere igjen enn det politiske oppgjøret. Derfor ble bare høye nazifunksjonærer fjernet fra sine stillinger.

Til sammen ble ca. 182.000 personer arrestert i de tre vestlige sonene, ca 86.000 av disse ble løslatt innen 1947. I den sovjetiske sonen satt mange arrestert til langt ut på 1950-tallet. Det er enklest å forstå forskjellene hvis man ser på hvor mange prosent som ble løslatt i de forskjellige sonene:

Engelsk sektor: 64.500 personer (løslatt 1947: 34.000 = 53% løslatt)
Amerikansk sektor: 95.250 (løslatt: 44.244 = 46% løslatt)
Fransk sektor: 18.963 (løslatt: 8.040 = 42% løslatt)
Sovjetisk sektor 67.179 (løslatt: 8.214 = 12% løslatt)

I alle de okkuperte sonene måtte de allierte vurdere behovet for gjenoppbygging og kompetanse mot ønsket om å fjerne aktive nazister fra stillingene de hadde under krigen. Det er åpenbart at de ideologiske forskjellene i de forskjellige sonene til slutt avgjorde hvordan denazifiseringen ble håndtert.