В связи с принятием Конституции СССР постановлением ЦИК СССР от 6 июля 1923 г. было поручено Президиуму ЦИК СССР разработать Положение о Верховном Суде СССР. в состав Верховного Суда СССР была включена прокуратура. В Положении были определены функции, полномочия, структура и штаты Прокуратуры Верховного Суда СССР.
Прокурор и его заместитель состоят при Верховном Суде. они назначались Президиумом ЦИК Союза ССР и были ему подотчетны. Прокурор Верховного Суда СССР и его заместитель в области судебного надзора имели право истребовать подлежащие опротестованию судебные акты Верховных судов союзных республик, рассматривать их в порядке надзора и представлять для дальнейшего направления в Пленум Верховного Суда СССР, а также истребовать законченные рассмотрением дела из судебных учреждений союзных республик для просмотра их в порядке надзора и в особо важных случаях просить Президиум ЦИК СССР о приостановлении исполнения приговора и решений по этим делам до рассмотрения их в порядке надзора.
С учреждением Прокуратуры Верховного Суда СССР в советском государстве начали функционировать две организационно не связанные между собой системы прокурорского надзора: Прокуратура Верховного Суда СССР и прокуратуры союзных республик.
24 июля 1929 г. постановлением ЦИК и СНК СССР было утверждено Положение о Верховном Суде СССР и Прокуратуре Верховного Суда СССР. Прокурор Верховного Суда возбуждал уголовное преследование по делам, подлежащим рассмотрению Верховным Судом СССР, наблюдал за производством предварительного следствия по этим делам, давал дальнейшее направление законченным следствием делам и осуществлял функции прокурора в судебных и распорядительных заседаниях по этим делам.
Прокурор Верховного Суда получил право по некоторым отраслям надзора вмешиваться в деятельность прокуроров союзных республик, но он не объединял всю их деятельность, а тем более не подчинял себе органы прокурорского надзора союзных республик.
Постановлением ЦИК и СНК СССР от 20 июня 1933 г. была учреждена Прокуратура Союза ССР. 21 июня 1933 г. постановлением ЦИК СССР первым Прокурором Союза ССР был назначен И.А. Акулов, а его заместителем — А.Я. Вышинский.
постановлении ЦИК СССР от 27 мая 1934 г.: Прокурор СССР, осуществляя надзор за правильным и единообразным применением законов судебными учреждениями на всей территории СССР, вправе приостанавливать исполнение любых приговоров, в том числе приговоров к высшей мере социальной защиты, независимо от того, какое последовало решение по ходатайству осужденного о помиловании.
Постановлением ЦИК и СНК СССР от 20 июля 1936 г. «Об образовании Народного комиссариата юстиции СССР» органы прокуратуры и следствия были выделены из системы народных комиссариатов юстиции союзных и автономных республик и подчинены непосредственно Прокурору Союза ССР.
5 ноября 1936 г. постановление «О структуре Прокуратуры СССР». В основу структуры центрального аппарата, а затем и аппаратов прокуратур союзных республик был положен отраслевой принцип деятельности прокуратуры: общий надзор, надзор за законностью рассмотрения дел в суде и т.д.
была принята Конституция БССР 19 февраля 1937 г. По Конституции СССР прокуратура выделялась в самостоятельную систему государственных органов, возглавляемую Генеральным прокурором СССР. В соответствии с Конституцией 1936 г. Прокурор СССР назначался Верховным Советом СССР и был ответствен перед ним, а в период между сессиями подотчетен Президиуму Верховного Совета СССР.
Таким образом, была окончательно завершена централизация прокуратуры. Прокурорский надзор стал именоваться высшим надзором за точным исполнением законов всеми министерствами и подведомственными им учреждениями, равно как отдельными должностными лицами, а также гражданами СССР.