Josef Kramer werd op 10 november 1906 in München, de bakermat van het nationaalsocialisme, geboren als enig kind in een middenklassegezin. Hij bracht zijn jeugd door in Augsburg en werkte aanvankelijk als boekhouder. Nadat hij zijn baan had verloren zag hij zijn enige toekomst in de nationaalsocialistische partij liggen. In december 1931 sloot hij zich aan bij de NSDAP en in januari 1932 werd hij lid van de Schutzstaffel (SS). Zijn carrière binnen de Duitse concentratiekampen begon toen hij in 1934 bewaker werd in Dachau. Datzelfde jaar werd hij overgeplaatst naar Esterwegen, één van de zogenaamde Frühe Konzentrationslager. In 1936 keerde hij terug naar Dachau, maar dit was van korte duur, want vanaf 1937 werkte hij als adjudant van de kampcommandant van Sachsenhausen. Diezelfde functie bekleedde hij van 1938 tot 1940 in Mauthausen.
Tussen mei en eind oktober 1940 was Kramer aangesteld als adjudant van Rudolf Höss in Auschwitz. Samen met Höss inspecteerde hij de locatie in Monowitz waar vervolgens een fabriek van I.G. Farben voor de productie van synthetische rubber en benzine gebouwd werd. Na zijn korte verblijfsduur in Auschwitz werd Kramer aangesteld als Lagerführer – niet te verwarren met Lagerkommandant – in Dachau. In april 1941 werd hij overgeplaatst naar Natzweiler. In Natzweiler was hij aanvankelijk Schutzhaftlagerführer (ondercommandant), maar in juli 1942 volgde zijn promotie tot kampcommandant.
Als kampcommandant in Natzweiler was Kramer persoonlijk betrokken bij de vergassing van tachtig gevangenen. De eerste vergassing betrof vijftien vrouwelijke gevangenen. Ze werden uitgekleed en vervolgens de gaskamer ingestuurd. "Toen de deur gesloten werd, begonnen ze te schreeuwen", zo verklaarde Kramer na de oorlog aan zijn ondervragers. "Ik gooide een zekere hoeveelheid zouten door een buis, die rechtsboven het kijkgat zat, naar binnen. (…) Ik belichtte de binnenruimte (…) en bekeek door het kijkgat wat er binnen gebeurde. Ik zag dat de vrouwen nog ongeveer een halve minuut ademden, voordat ze op de vloer neervielen." De skeletten van de vrouwen werden voor anatomisch onderzoek beschikbaar gesteld voor de collectie van professor Hirt van de Universiteit van Straatsburg. Hetzelfde proces werd later meerdere malen opnieuw uitgevoerd, zodat uiteindelijk tachtig gevangenen omgebracht werden. Toen een ondervrager na de oorlog aan Kramer vroeg hoe hij zich voelde tijdens het vermoorden van deze gevangenen, antwoordde hij: "Ik had geen emoties tijdens het uitvoeren hiervan omdat ik het bevel gekregen had om deze tachtig gevangenen op deze wijze, die ik u uitgelegd heb, om te brengen. Dit was de manier waarop ik getraind was."
Begin mei 1944 keerde Kramer terug naar Auschwitz-Birkenau om te helpen bij de vernietiging van de Hongaarse Joden die naar het kamp gedeporteerd werden. Tussen 15 mei en 9 juli 1944 werden ongeveer 430.000 Hongaarse Joden gedeporteerd, voor het grootste deel naar vernietigingskamp Auschwitz-Birkenau. Van 8 mei tot november 1944 was Kramer de commandant van dit kamp dat ook aangeduid werd als Auschwitz II. Alhoewel Rudolf Höss hoofdverantwoordelijk was voor de massavernietiging van de Joden in dit kamp, was ook Kramer hierbij betrokken. Meerdere getuigen verklaarden na de oorlog dat ze hem geregeld gezien hadden tijdens de Selektionen, de selecties die direct na aankomst van een transport plaatsvonden om arbeidsbekwame en arbeidsonbekwame gevangenen van elkaar te scheiden. De arbeidsonbekwame gevangenen werden meteen na aankomst vermoord in de gaskamers.
Kramer was in Auschwitz-Birkenau niet alleen hard voor zijn gevangenen – meerdere getuigen bevestigden dat hij persoonlijk gevangenen mishandeld had –, maar ook bij zijn personeel was hij berucht. Dokter Franz Lucas verklaarde na de oorlog dat hij had getracht om zich aan zijn taak te onttrekken door te doen alsof hij last had van maag- en darmklachten. Toen dokter Lucas zag dat hij was toegevoegd aan een lijst artsen die de selectie moesten uitvoeren van een groot transport gevangenen uit Hongarije protesteerde hij krachtig. Kramer reageerde als volgt op het protest van zijn ondergeschikte: "Ik weet dat er onderzoek naar gedaan wordt of u gevangenen begunstigt. Ik beveel u nu om naar het spoorwegplatform te gaan en als u mijn bevel weigert, zorg ik dat u ter plekke gearresteerd wordt."
Kramer werd vooral berucht als kampcommandant van Bergen-Belsen. Op 1 december 1944 werd hij in dit kamp aangesteld. Het kamp werd sinds juni 1943 officieel aangeduid als Aufenthaltslager en was hoofdzakelijk bedoeld voor zogenaamde Austauschjuden, Joden die uitgewisseld konden worden voor Duitsers die in het buitenland geïnterneerd waren. Deze Joden genoten een voorkeursbehandeling en de opzet van het kamp was dan ook niet te vergelijken met andere concentratiekampen. In het voorjaar van 1944 werd het kamp echter bestemd voor de opvang van zieke gevangenen uit andere concentratiekampen. Alhoewel het kamp werd beschouwd als Erholungslager, oftewel herstelkamp, werden maar weinig zieke gevangenen hier beter. De levensomstandigheden waren verslechterd en langzaamaan kreeg Bergen-Belsen hetzelfde karakter als de andere concentratiekampen.
Kramer, inmiddels bevorderd tot SS-Hauptstürmführer, voltooide de overgang van Bergen-Belsen naar een "gewoon" concentratiekamp. In de kampafdeling waar de Austauschjuden verbleven, het Sternlager, hief hij het Joodse zelfbestuur op en voerde hij het Kapo-regime in. Dit hield in dat gevangenen, net als in alle andere concentratiekampen, werden ingezet voor de bewaking van medegevangenen. Ook collectieve straffen en appels werden door Kramer ingevoerd. Vanaf januari 1945 arriveerden in het kamp steeds meer gevangenen die geëvacueerd waren vanuit kampen in het oosten. Het kamp raakte overvol en de levensomstandigheden liepen drastisch achteruit. Door een voedseltekort en de epidemieën die door de slechte hygiëne uitbraken, overleden vele duizenden gevangenen.
Het is de vraag of Kramer veel had kunnen verbeteren aan de levensomstandigheden, want in deze fase van de oorlog was er niet voldoende voedsel beschikbaar – zeker niet voor concentratiekampgevangenen – en invloed op de hoeveelheid deportaties die aankwamen in het kamp had hij evenmin. Hij ondernam echter ook vrijwel niks om de levensomstandigheden te verbeteren: de grote voorraden medicijnen en medische instrumenten waarover hij de beschikking had kunnen hebben, werden door hem niet beschikbaar gesteld aan de gevangenen, terwijl onder hen meerdere artsen waren. Doordat Kramer zijn gevangenen in grote aantallen liet creperen, kreeg hij na de bevrijding van het kamp de bijnaam ‘het beest van Belsen’ door de Britten toebedeeld. De bevrijding van het kamp door de Britten vond plaats op 12 april 1945. Kramer gaf de Britten hoogstpersoonlijk een rondleiding door de chaos in het kamp. De bevrijders waren enorm geschokt door de gruwelijkheden die aangetroffen werden in het kamp. De foto’s die in het kamp gemaakt werden, gingen de wereld rond en toonden aan veel mensen voor het eerst de ware aard van de nazi-concentratiekampen.
Kramer werd gearresteerd door de Britten en werd samen met 43 andere kamppersoneelsleden aangeklaagd tijdens het eerste Bergen-Belsen proces. Dit proces vond plaats tussen 17 september en 17 november 1945 in Lüneburg en werd gevoerd door een Britse militaire rechtbank. Het merendeel van de gevangenen stond terecht voor misdaden gepleegd in Auschwitz-Birkenau en in Bergen-Belsen. Meerdere getuigen bevestigden dat Kramer persoonlijk betrokken was geweest bij Selektionen in Auschwitz-Birkenau en dat hij gevangenen meerdere malen gewelddadig behandeld had. Tevens had Kramer verklaard dat hij persoonlijk bij een vergassing betrokken was geweest in Natzweiler. Als motivering van zijn daden gaf hij aan dat hij slechts naar bevelen had geluisterd, zoals hem als SS’er geleerd was. De rechters bevonden Kramer zowel schuldig aan oorlogsmisdaden in Auschwitz-Birkenau als in Bergen-Belsen. Hij werd op 17 november 1945 ter dood veroordeeld en op 13 december 1945 in Hameln (Nedersaksen) opgehangen