Согласно нормативным актам, принятым в 20-е гг. XX века (прежде всего по Постановлению ЦИК СССР от 14 мая 1926 года «Об общих принципах организации государственного нотариата»), нотариат подчинялся судебным органам союзных республик. В Положении от 20 июня 1930 года «О государственном нотариате РСФСР» и в Нотариальном положении УССР от 25 июля 1928 года эта норма осталась без изменений. С 1929 года возобладала установка на ликвидацию нотариата в рамках компании «упрощения и улучшения» деятельности органов юстиции. В РСФСР этим непосредственно занималось организационно-инструкторское управление НКЮ РСФСР (п. «а» ст. 10 Положения о НКЮ 1929 года). Согласно Положению о государственном нотариате РСФСР 1930 года нотариальные конторы и рай/горисполкомы были поставлены в равные условия при производстве нотариальных действий. Были приняты соответствующие инструкции. Например, НКЮ УССР утвердил специальную инструкцию для сельских и поселковых Советов. Хотя формально нотариатом должны были руководить областные/краевые/главные суды (далее – областные суды), в реальности им никто не управлял. В областных судах не предусматривалась даже должность инструктора по надзору.
Сокращалась сфера деятельности нотариата из-за отмены ряда нотариальных удостоверений и из-за общего сокращения гражданского оборота. Большинство нотариальных контор было закрыто. К 1 января 1937 года в СССР осталось всего лишь 122 конторы, в том числе в РСФСР – 74 (в 1924 году было 414, в 1935 году – 59). Нотариальные положения фактически не применялись.
С 1935 года стали появляться тревожные сообщения о развале нотариальной системы. В обширной статье «Что есть нотариус» (Советская юстиция. 1935. № 30) Свердлов обращал внимание юристов на очередной (51-й) Пленум Верховного Суда СССР (далее – ВС СССР). Отмечалось, что в большинстве контор обследования не проводились уже четыре года. Люди стремились заверить подписи у нотариуса, а не в Советах. В итоге конторы были перегружены. Например, в единственной Московской нотариальной конторе число ежедневных посетителей достигало 800 человек! Многие нотариусы незаконно заверяли подписи и документы, в том числе руководствуясь незаконными рекомендациями областных судов. Хуже дело обстояло в нотариальных столах исполкомов Советов. В большинстве из них нотариальные действия нигде не отмечались. Выборочная проверка подтвердила, что 90% нотариальных надписей было совершено с нарушением законов. Свердлов призвал немедленно восстановить нотариат и возложить часть функций на народных судей. В конце 1934 года под руководством Винокурова было разработано первое Положение о нотариате СССР (возможно, его автором был Васильев-Южин). Проект был одобрен 49-м Пленумом ВС СССР и передан в комиссию Енукидзе. Сам текст Положения в архивах не обнаружен. Однако дальнейшего хода проект не имел. В январе 1935 года председатель ВС СССР Винокуров заявил, что «вопрос о сохранении госнотариата решен в положительном смысле». Планировалось возродить нотариальные конторы в районах, областях, республиках. Руководство должно было быть возложено на старших нотариусов или, в крайнем случае, на народных судей. Назначение и увольнение нотариусов должны были производить областные и верховные суды. Общее руководство осуществляет ВС СССР и союзных республик.
В 1935 году во время возрождения гражданских коллегий в областных судах нотариальные конторы были подчинены председателям этих коллегий (п. 1.д Постановления Президиума ВС РСФСР от 10 мая 1935 года). По Постановлению Президиума ВС РСФСР от 8 июля 1936 года оперативное руководство нотариатом было возложено на председателя Гражданской коллегии ВС РСФСР и осуществлялось группой по нотариату при Гражданской коллегии. В реальности руководство по-прежнему отсутствовало.
10 марта 1936 года на президиуме Свердловского областного суда обсуждалась работа Свердловской нотариальной конторы. В области за пять лет не было ни одного совещания нотариусов, не слушался ни один доклад нотариуса, не проводилось ни одно обследование. С 1930 года из 22 контор 20 было ликвидировано. Остались конторы в Свердловске и Перми. Все нотариальное руководство было свалено на старшего нотариуса г. Свердловска Петухова, который разрывался на части.
10 июня 1936 года по Постановлению ВЦИК и СНК РСФСР все нотариальные действия изымались из ведения рай/горсоветов и передавались нотариальным конторам и нотариальным столам при народных судах. Аналогичные положения были приняты в других союзных республиках. Планировалось увеличить число нотариальных работников в СССР с 601 до 4981! Например, в Свердловской области планировалось подобрать 14 нотариусов и 59 заведующих нотариальными столами. В Ленинградской области собирались организовать 22 конторы и 60 столов.
Задача восстановления системы нотариата возлагалась на отделы нотариата НКЮ СССР и союзных республик. Группы по нотариату при гражданских коллегиях верховных судов перешли в отделы нотариата. Отдел нотариата НКЮ СССР должен был состоять из восьми оперативных работников во главе с Якубовским. В октябре – ноябре 1936 года отдел разработал проект Положения о государственном нотариате СССР. В отличие от Положения об адвокатуре обсуждение проекта Положения о нотариате проходило в узком бюрократическом кругу. Проект рассматривался в Наркомате земледелия, Наркомфине и в СНК СССР. Главный спор возник по вопросу о том, кому будут подчиняться нотариусы НКЮ, областным судам или советам? 30 декабря 1936 года начальник отдела отчитался о проделанной работе. Далее проект полтора года пролежал в СНК СССР без движения.
Статья 9 Положения о НКЮ СССР, принятого 8 декабря 1936 года, возлагала на отдел нотариата «общее руководство и надзор за работой нотариальных органов». Эти полномочия были конкретизированы в Положении об отделе нотариата НКЮ СССР от 14 января 1937 года. Отдел должен был разработать общие указания для отделов НКЮ союзных республик (п. 1 Положения), наблюдать за нотариальными органами, проводить ревизии и обследования нотариальных органов СССР (п. 3), разрабатывать законодательство о нотариате (п. 5), созывать совещания нотариусов (п. 7), разрабатывать штаты нотариальных органов (п. 9) и прочее. Характерно, что в этих актах ничего не говорилось о кадровых и дисциплинарных полномочиях отдела. Этот вопрос не был решен.
Руководство НКЮ СССР в целом безразлично относилось к развитию нотариата. Начальники отделов пытались активизировать работу нотариата. Глава отдела НКЮ СССР так сформулировал задачи своего отдела: установить структуру нотариата, создать систему управления, подобрать кадры и разработать нормативно-правовые акты. По его мнению, к началу 1938 года «работа по восстановлению нотариата в СССР была в основном завершена». В 1937 году в СССР число нотариальных контор достигло 432, нотариальных столов – 1537 (в том числе в РСФСР – 344 и 1504, в остальных республиках – 88 и 33). Рост нотариальных органов в РСФСР был 15-кратным! Например, в Удмуртии Ижевская городская нотариальная контора была преобразована в республиканскую, также были созданы Можгинская, Глазовская, Воткинская, Сарапульская конторы и 20 нотариальных столов. В 1938 году к ним присоединилось еще шесть новых контор. Подбор кадров был неудовлетворительным. Были назначены люди без высшего образования, больные, нетрудоспособные, судимые. Нарком юстиции РСФСР Булат разрешил совместительство должностей судебного секретаря и нотариуса. В ряде районов обязанности нотариуса исполняли народные судьи или по-прежнему отделы райисполкомов.
Еще до введения в действие общесоюзных актов по нотариату НКЮ СССР принимало приказы по совершению отдельных действий. В 1937 году нарком юстиции СССР подписал 13 приказов по нотариату и 1 секретный приказ. Нарком юстиции РСФСР подписал 2 приказа и 5 директивных писем. В 1938 году НКЮ СССР выпустил 11 приказов и 2 секретных приказа, НКЮ РСФСР – 4 приказа.
В начале 1938 года в юридической печати вышло несколько статей, подводящих итог первого года работы возрожденного нотариата. Хотя авторы в целом положительно оценивали переход к профессиональному нотариату, все же отмечалось бесчисленное множество примеров противозаконных действий. Некоторые из этих действий были продиктованы незаконными приказами НКЮ СССР. Отдел нотариата (далее – ОН) готовил проекты приказов для Крыленко, при этом сотрудники имели очень туманное представление о действующем законодательстве. Например, Крыленко подписал противозаконный Приказ № 66 за 1937 год, Булат – Приказ от 7 мая 1937 года и другие. Противоправная деятельность нотариусов широко освещалась в печати. Так, в Ленинградской области в 1937 году было помещено 63 статьи в районных газетах с подобным содержанием. Оказалось, что было создано множество ненужных контор. Так, в Кировской области на 1 районную нотариальную контору приходилось 7 нотариальных действий в день. После ареста Крыленко все недостатки в системе нотариата были объявлены вредительством.