Принятие Конституции завершило первый этап образования и укрепления единого союзного государства. В дальнейшем СССР пополнялся новыми членами. В октябре 1923 г. Хорезмская, а в сентябре 1924 г. Бухарская народные республики провозгласили себя социалистическими. Осенью того же года на территории этих республик и Туркестанской АССР в результате национально-территориального размежевания образовались две новые союзные республики — Узбекская и Туркменская, одна автономия — Таджикская АССР в составе Узбекской, две российские автономные области — Кара-Киргизская (в 1925 г. переименована в Киргизскую АО, а в 1926 г. преобразована в Киргизскую АССР) и Кара-Калпакская АО в составе Казахской АССР. В январе 1925 г. в состав Таджикистана вошла территория Памира (Горно-Бадахшанская АО), в мае III съезд Советов СССР включил в состав Союза на правах союзных республик Узбекистан и Туркменистан. В 1929 г. в союзную республику была преобразована Таджикская АССР. Национальное размежевание в Средней Азии охватило территорию с населением более 17 млн человек, что позволило на долгое время обрести спокойствие и устойчивость развития всему региону.
Появились новые национальные образования в составе Азербайджана (Нагорно-Карабахская АО, 1923 г.) и Украины (Молдавская АССР, 1924 г.). Созданный в 1923 г. Нахичеванский автономный край в составе Азербайджанской ССР в 1924 г. преобразован в Нахичеванскую АССР. Тогда же на основе союзного договора были оформлены отношения Грузии и Абхазской ССР, которая в 1931 г. была включена в состав Грузии на правах АССР.
В 1924 и 1926 гг. к Белоруссии были присоединены смежные территории РСФСР (части Витебской, Гомельской и Смоленской губерний) с преобладанием белорусского населения и с развитой промышленностью. В результате территория БССР увеличилась в 2,5 раза, а ее население — более чем в 3 раза.
В составе РСФСР Бурят-Монгольская и Монголо-Бурятская автономные области в 1923 г. образовали единую Бурят-Монгольскую АССР. В автономные республики преобразованы Карельская трудовая коммуна (1923), Автономная трудовая коммуна немцев Поволжья (1924), Чувашская автономная область (1925).
В июле 1924 г. вместо упраздненной Горской АССР, изначально включавшей 7 национальных округов — Балкарский, Владикавказский, Кабардинский, Карачаевский, Назрановский (Ингушский), Чеченский и Сунженский казачий, в результате размежевания появились Ингушская и Северо-Осетинская автономные области (1924); были созданы Карачаевская (1926) и Черкесская (1928) АО. Существовавшая с 1922 г. в Краснодарском крае Адыгейская (Черкесская) АО в 1928 г. была преобразована в Адыгейскую АО. При национальном размежевании на Северном Кавказе земли с преобладанием славянского населения были выведены из подчинения автономий. В Кабардино-Балкарии, Осетии, Чечне создавались казачьи автономные округа. Владикавказ и Грозный с пригородами были отдельными округами за пределами Северной Осетии и Чечни. В начале первой пятилетки эти округа, вопреки интересам славянского населения, снова присоединили к Чечне и Северной Осетии. Грозный стал столицей Чечни, а Владикавказ (с 1931 г. — Орджоникидзе) был до 1934 г. столицей и Северной Осетии, и Ингушетии.
Во время проводившегося в 1920-е годы районирования старое административное деление (губерния, уезд, волость), не учитывавшее экономические и национальные особенности регионов, к концу 1929 г. было заменено в РСФСР трехзвенной системой: район, округ, область (край), а в других союзных республиках — двухзвенной (район, округ). Вместо 766 старых уездов в СССР было создано 176 округов. Районирование несколько изменяло положение автономных образований. Автономные области включались в состав краев и областей. В постановлении ВЦИК РСФСР от 28 июня 1928 г. подчеркивалось, что автономные республики, входя на основе добровольности в краевые объединения, полностью сохраняют конституционные права. Местные органы власти в автономиях получили возможность решать многие вопросы без согласования с центром.
При районировании национально-государственное строительство доходило до самых мелких административных единиц. В республиках появились новые национальные округа, уезды, районы, волости и сельсоветы, компактно населенные народами, отличающимися от основного населения. При этом численная норма, необходимая для создания соответствующей национальной административной единицы, снижалась в среднем в 2,5 раза. Работа по их созданию получила значительное ускорение после III съезда Советов СССР, установившего 20 мая 1925 г., что должен быть принят «ряд дополнительных мероприятий, обеспечивающих и защищающих интересы национальных меньшинств». Постановление предусматривало, в частности, «в случаях значительной численности национальных меньшинств образование отдельных Советов с употреблением языков этих меньшинств, организацию школ и судов на родном языке». В том же году образовался Коми-Пермяцкий национальный округ в Пермской, а в 1928 г. — Саранский (переименованный тогда же в Мордовский) в Средне-Волжской области (в январе 1930 г. на его базе создана Мордовская АО). Помимо этого, в России были созданы 33 национальных района, 110 национальных волостей, 2930 национальных сельсоветов. Такие же миниатюрные автономии появились в других союзных республиках. Это обеспечивало наиболее полное выявление возможностей экономического, политического и культурного развития каждой национальности.
Большую роль в советизации народов Севера и Дальнего Востока, находившихся к 1920 г. на стадии патриархально-общинных отношений, сыграл Комитет содействия народностям северных окраин (Комитет Севера), работавший при ВЦИК с июня 1924 г. Поначалу в этих районах создавались «родовые Советы» и «туземные исполкомы», которые соответствовали сельсоветам и райсоветам, развивалась промысловая кооперация.
