Как отмечал непосредственный свидетель этих процессов, Бажанов Б. Г., к 1926 году Сталин уже в целом завершил процесс расстановки своих сторонников на все ключевые посты в партии, и «продолжал эту шумиху с оппозицией только для того, чтобы выявить своих скрытых врагов».
Ожесточённая идеологическая борьба проходит на фоне организуемых Сталиным новых и новых массовых наборов в партию рабочих «от станка». В 1923 году партия насчитывала 386 тыс. чел., в 1924 году 735 тыс. чел., в 1927 году 1 236 тыс., в 1930 году 1 971 тыс., в 1934 — 2 809 тыс. чел. Если в 1917 году число лиц с высшим образованием в большевистской партии составляло с законченным 32 % и незаконченным 22 %, в результате так называемого «орабочивания» число лиц с высшим образованием к 1927 году падает до 1 %, 27 % членов партии не имели даже начального образования. Уровень образования, и так бывший у большевиков невысоким по сравнению с другими революционными партиями, резко падает. Иследователь Маслов Н. Н., указывает, что за период 1920—1929 годов численность рабочего класса за счёт восстановления промышленности до довоенного уровня выросла в пять раз, в первую очередь за счёт деклассированной крестьянской молодёжи. На 1927—1929 годы каждый седьмой рабочий не умел читать и писать.
В таких условиях для партийных низов становятся всё более и более непонятными бушующие в верхах ожесточённые дискуссии, в ходе которых противоборствующие стороны маскировали свою жажду власти, «молотя» друг друга сложными идеологическими доктринами, или обвинениями в «отходе от заветов Ильича». Как отмечает исследователь Роговин В. З., объединение ещё совсем недавно враждовавших группы Троцкого и группы Зиновьева-Каменева на деле привело только к их взаимной дискредитации. Ещё в 1924 году Зиновьев ожесточённо атаковал Троцкого, разработав доктрину «троцкизма», как «враждебного ленинизму мелкобуржуазного течения». В 1926 году он предпочёл блокироваться с тем же самым Троцким. Как отмечал вспоследствии Киров С. М., «нигде троцкизм не был так разбит… как в Ленинграде [возглавлявшимся Зиновьевым],.. потом вдруг неожиданно состоялось знаменитое братание между Зиновьевым и Троцким. Этот шаг показался ленинградской организации чем-то совершенно волшебным». В частном разговоре с Троцким Зиновьев честно признаётся, что доктрина «троцкизма» была им целиком выдумана в целях борьбы за власть.
В глазах «орабочившегося» необразованного большинства подобный, по выражению Бажанова Б. Г., «вольт-фас» привёл только к всё большей потере и Зиновьевым, и Троцким их авторитета. Сталин между тем использует «компромат» собственных противников, обвиняя в «троцкизме» теперь и автора самого «троцкизма» Зиновьева, раз уж он составил с Троцким блок. Во время «литературной дискуссии» 1924 года Троцкий «припомнил» Зиновьеву и Каменеву их позицию в октябре 1917 года; теперь же Сталин с удовольствием «перехватывает» и эти лозунги. Вдова Ленина, Крупская Н. К., на XIV Съезде ВКП(б) безуспешно пытается взывать к «партийному демократизму», напомнив делегатам, что и сам Ленин на «стокгольмском» съезде был в меньшинстве, но её уже никто не слушал. Сталин парирует выступление Крупской заявлением: «А чем, собственно, отличается тов. Крупская от всякого другого ответственного товарища? не думаете ли вы, что интересы отдельных товарищей должны быть поставлены выше интересов партии и ее единства? Разве товарищам из оппозиции не известно, что для нас, для большевиков, формальный демократизм — пустышка, а реальные интересы партии — все?».
Всё чаще и чаще в упрёк Троцкому начинает ставиться и его национальность, в президиумы начинают всё чаще подавать записки с мест с заявлениями вроде «Троцкий отвергает возможность построения социализма в одной стране, потому что из-за своей национальности не верит в силу русского народа», «Троцким не мог быть коммунистом, что сама его национальность указывает, что ему нужна спекуляция». В 1927 году Троцкий обрушивается на подобные записки, называя их «черносотенными»: «черт знает что, спрашивают, на какие-де „средства“ оппозиция ведёт свою „работу“». Сталин и здесь позиционирует себя, как «умеренного», выступив с двусмыссленным заявлением, что «мы боремся против Троцкого, Зиновьева и Каменева не потому, что они евреи, а потому, что они оппозиционеры».
Стремясь найти противовес идеологическим нововведениям оппозиционеров, Сталин с объединяется группой Бухарин Н. И. — Рыков А. И. — Томский М. П., взгляды которых впоследствии были осуждены, как «правый уклон». Однако на этом этапе один из основных партийных теоретиков, Бухарин, был ещё полезен Сталину. Бухарин ожесточённо атакует «левых» оппозиционеров, обвиняя их доктрину «сверхиндустриализации» в строительстве «внутреннего колониализма» и подрыве «смычки» между городом и деревней. С точки зрения «правых», одним из грехов «троцкизма» была чрезмерная опора только на рабочих и пренебрежение крестьянством. На этом этапе Сталин всё ещё позиционирует себя, как «умеренного» центриста, сдерживающего радикализм как левого, так и правого крыла партии. С одной стороны, Сталин противостоит левым с их требованием продолжения изнурительной «мировой революции» и не менее изнурительной индустриализации. С другой стороны, Сталин также «одёргивает» чрезмерно увлекшегося Бухарина, осудив его знаменитый лозунг крестьянам «Обогащайтесь!», как «не наш».
Лавируя между своими противниками, Сталин продолжает сдерживать особо «кровожадные» их заявления, на этом этапа звучащее гораздо более воинственно, чем заявления самого Сталина. Троцкий в 1927 году описывает сталинскую роль «миротворца» следующим образом:
На всех ячейках докладчики, специально дрессированные, ставят вопрос об оппозиции так, что поднимается рабочий, чаще всего по наряду, и говорит: «чего же вы возитесь с ними, не пора ли их расстрелять?» Тогда докладчик со скромно-лицемерной миной возражает: «товарищи, не нужно спешить». … всё это для того, чтобы вызвать у обманутых слушателей, у сырых молодых партийцев, которыми вы искусственно заполняете партийные ряды, бешеную реакцию, и чтобы потом иметь возможность сказать: «смотрите, мы готовы бы терпеть, но массы требуют».
В январе 1924 года Сталин сдержал Зиновьева, требовавшего арестовать Троцкого за предполагаемую подготовку «бонопартистского» военного переворота, в июле и в декабре Зиновьев требует исключить Троцкого из партии. В декабре 1925 Сталин защищает от атак Зиновьева уже Бухарина. В 1926—1927 годах Бухарин, Рыков и Томский вполне определённо «забегают вперёд» Сталина, требуя репрессий. Так, Бухарин в ноябре 1926 года заявляет, что
Тов. Зиновьев говорил… как хорошо Ильич поступил с оппозицией, не выключая всех тогда, когда он имел только два голоса из всех на профессиональном собрании. Ильич дело понимал: ну-ка, исключи всех, когда имеешь два голоса (Смех). А вот тогда, когда имеешь всех, и против себя имеешь два голоса, а эти два голоса кричат о термидоре, — тогда можно и подумать. (Возгласы «Правильно». Аплодисменты, смех. Сталин с места: "Здорово, Бухарин, здорово. Не говорит, а режет.)
Томский в ноябре 1927 года выражается ещё более определённо:
Оппозиция очень широко распространяет слухи о репрессиях, об ожидаемых тюрьмах, о Соловках и т. д. Мы на это скажем нервным людям: "Если вы и теперь не успокоитесь, когда мы вас вывели из партии, то теперь мы говорим: нишкните, мы просто вежливо попросим вас присесть, ибо вам стоять неудобно. Если вы попытаетесь выйти теперь на фабрики и заводы, то мы скажем «присядьте, пожалуйста» (Бурные аплодисменты), ибо, товарищи, в обстановке диктатуры пролетариата может быть и две и четыре партии, но только при одном условии: одна партия будет у власти, а все остальные в тюрьме. (Аплодисменты).
В таком же духе выступает и Рыков, на XV съезде ВКП(б) в декабре 1927 года заметивший, что «нельзя ручаться за то, что население тюрем не придётся в ближайшее время несколько увеличить». В качестве подарка съезду делегатам прислали из Сталинграда метлу. Рыков лично вручил её Сталину со словами: «я передаю метлу товарищу Сталину, пусть он выметает ею наших врагов».
Организованное Сталиным большинство всё больше вытесняет оппозиционеров из легального поля, лишая их возможности вести дискуссии на пленумах, съездах, и в печати. В июле 1926 года зиновьевец Лашевич организует в подмосковном лесу нелегальное собрание оппозиции, за что Зиновьев выводится из Политбюро, как «руководящий фракционной деятельностью». Накал страстей приводит к тому, что во время совместного июльского пленума ЦК и ЦКК прямо в зале заседаний у Дзержинского Ф. Э. происходит сердечный приступ, 20 июля он умирает.
Осенью 1926 года оппозиция пытается организовать агитацию на «низовых» партийных ячейках, что сопровождается хорошо организованными обструкциями, и исключениями сторонников оппозиции из партии «за фракционную деятельность». Троцкий яростно атакует Сталина, заявляя, что «идейное убожество заменено аппаратным всемогуществом», и «наверху создалась каста, оторвавшаяся от масс».
Аппарат дал бешеный отпор. Идейная борьба заменилась административной механикой: телефонными вызовами партийной бюрократии на собрания рабочих ячеек, бешеным скоплением автомобилей, рёвом гудков, хорошо организованным свистом и рёвом при появлении оппозиционеров на трибуне. Правящая фракция давила механической концентрацией своих сил, угрозой репрессий. Прежде чем партийная масса успела что-нибудь услышать, понять и сказать, она испугалась раскола и катастрофы.
Постепенное «выдавливание» оппозиционеров за рамки «советской легальности» приводит к тому, что под предлогом «нарушения партийной дисциплины» Троцкий и Каменев в октябре 1926 года исключаются из Политбюро. Также осенью 1926 года от оппозиционеров отходит Крупская Н.К, заявившая, что «оппозиция зашла слишком далеко». Тем не менее, Троцкий остаётся в составе ЦК, время от времени яростно атакуя Сталина на его пленумах. 26 ноября 1926 года Каменев Л. Б. был удалён из России, и отправлен в Италию в качестве полпреда. Один из основных «зиновьевцев», Сокольников Г. Я. ещё в 16 января 1926 года переведён с должности наркомфина на должность заместителя председателя Госплана СССР.