The basis of the ministry was established since September 1942 the First Chief Directorate (nuclear industry), the Third Chief Directorate (development in the area controlled missiles, aircraft, rockets and long range missiles) of the Council of Ministers of the USSR and the Central Board of Industrial Building of the Ministry of Internal Affairs of the USSR (Главпромстрой МВД) charged with construction of nuclear installations.
Ministerstwo utworzono na bazie prowadzonych od września 1942 prac i funkcjonujących od 1945 Pierwszego Głównego Zarządu (przemysł atomowy), Trzeciego Głównego Zarządu (prace rozwojowe w dziedzinie rakietowych pocisków sterowanych, samolotów, rakiet i pocisków rakietowych dalekiego zasięgu) Rady Ministrów ZSRR oraz Głównego Zarządu Budownictwa Przemysłowego Ministerstwa Spraw Wewnętrznych ZSRR (Главпромстрой МВД) - budownictwo obiektów atomowych.