Дуйсебаев, Б. А., Институт ядерной физики