Herrmann fue uno de los pilotos alemanes más exitosos de la posguerra. Su mayor logro llegó en 1970, cuando el nacido en Stuttgart consiguió la tan ansiada victoria en las 24 Horas de Le Mans al volante de un Porsche 917 junto a Richard Attwood.
Herrmann inició su carrera en 1952, con 24 años. A lo largo de su trayectoria ha sumado más de 80 victorias absolutas y de clase, la mayoría de ellas con Porsche.
Debido a varios accidentes graves de los que casi siempre salió ileso, se ganó el apodo de "Hans im Glück". Sobre cómo afrontaba un deporte tan arriesgado, Herrmann comentó en una ocasión: "Siempre te repetías: Pero a ti no te va a pasar". Para él, lo fundamental era "dominar realmente tu coche".
Hasta una edad avanzada, ha seguido vinculado al automovilismo y ha participado regularmente en prestigiosos eventos de clásicos en todo el mundo. Porsche lo ha reconocido como uno de los pilotos oficiales más importantes y exitosos de la marca. Herrmann deja a su esposa Magdalena y dos hijos.