Rápidamente se ubicó en el círculo cercano del presidente del partido, Kurt Schumacher.
Fue nombrado secretario general del partido en 1946 y rápidamente se convirtió en uno de los líderes más influyentes de la CDU. Su relación con Schumacher se mantuvo estrecha hasta la muerte de este en 1952.