Arndt war Sohn eines Beamten.
Er wuchs in einer bürgerlichen Familie auf und besuchte das Gymnasium in seiner Heimatstadt. Nach dem Abitur studierte er Jura und begann bald darauf eine Karriere als Jurist. Seine politische Karriere begann jedoch erst viel später.