Bij de voorbereiding voor de aanval op Kharkov, nam hij twee bruggenhoofden in bezit, welke cruciaal waren voor de Duitse aanval. Op 12 juli, toen grote aantallen Sovjet pantsers zijn linies binnenvielen, kwam Peiper tegenover een T-34 te staan. Wachtend op een geschikt moment, klom hij op de koepel, opende het luik en gooide een bundel handgranaten naar binnen.