Вскоре начальник Гохрана получил орден Ленина. Несмотря на то что ревизия Мехлиса окончилась для Косыгина благополучно, почти до самой смерти Сталина Косыгин жил в ожидании ареста. Его зять Жермен Гвишиани вспоминал, что Косыгин, узнав о том, что среди предъявленных Николаю Вознесенскому обвинений было обвинение в незаконном хранении оружия, утопил в реке два сохранившихся с войны пистолета. Гвишиани удалось обнаружить на даче у Косыгина подслушивающие устройства, и, когда он сообщил о них тестю, тот строго сказал: "Ничего не трогай и никому не говори". Каждое утро, уходя на работу, Косыгин говорил родным: "Прощайте" и напоминал о заранее обговоренных действиях семьи в случае его ареста. Только в конце 1952 года, после ХIХ cъезда КПСС, Косыгину стало ясно, что "этап подозрений и недоверия заканчивается". Произошло это после того, как на каком-то совещании к нему подошел сам Сталин, тронул его за плечо и сказал: "Ну как ты, Косыга? Ничего, ничего, еще поработаешь".
Несмотря на то что Сталин уничтожил ближайших соратников и друзей Косыгина по работе в Ленинграде, из-за чего около трех лет ему пришлось прожить в постоянном ожидании ареста, он тем не менее навсегда сохранил самые теплые чувства по отношению к "вождю народов". По свидетельству Гвишиани, "Косыгин высоко ценил сильную волю и организаторские способности Сталина. Алексей Николаевич оставался с ним в Москве во время войны, когда все правительство эвакуировалось в Куйбышев, и позже категорически не соглашался с насмешливым замечанием Хрущева, утверждавшего, что в войну Сталин командовал "по глобусу", стоявшему в его кабинете". Однако привычка скрывать свои мысли и чувства, приобретенная за годы сталинской службы, осталась у Косыгина навсегда". Уместно вспомнить, что выдумка Хрущева о том, что Сталин вел войну "по глобусу", прозвучала не на какой-то пирушке, а в знаменитом закрытом докладе о культе личности Сталина на ХХ съезде КПСС. Означает ли это, что Косыгин отвергал в принципе десталинизацию общества, затеянную Хрущевым. Отчасти, это было действительно так. В вопросах идеологии Косыгин проявлял сталинскую твердость. В декабре 1969 года, когда Политбюро обсуждало публиковать или нет в "Правде" статью к 90-летию со дня рождения Сталина, Косыгин высказался решительно за публикацию статьи. Статья была опубликована, несмотря на то что некоторые члены Политбюро, в частности Подгорный, Пельше, Кириленко, активно возражали против этой публикации, ставящей, по их мнению, под сомнение решения ХХ съезда и выставляющей таким образом руководителей КПСС в роли непоследовательных, двусмысленных политиков, что особенно вредно скажется на отношениях с "братскими" компартиями. Брежнев, как это не раз бывало при возникновении острых разногласий в Политбюро, испытывал колебания, но после того, как Косыгин и остальные члены и кандидаты в члены Политбюро - Суслов, Устинов, Шелест, Андропов, Мазуров, Гришин - высказались за публикацию статьи, взял сторону большинства.
Косыгин занимал крайне жесткую позицию и в отношении писателя Александра Солженицына, одного из главных символов десталинизации, чья повесть "Один день Ивана Денисовича" при Хрущеве была не только напечатана в "Новом мире", но и ставилась в пример другим писателям секретарем ЦК по идеологии начала 60-х Ильичевым. 7 января 1974 года на заседании Политбюро, разбиравшем вопрос о Солженицыне, Косыгин предложил следующее: "Нужно провести суд над Солженицыным и рассказать о нем, а отбывать наказание его можно сослать в Верхоянск, туда никто не поедет из зарубежных корреспондентов". В конце концов Андропову все же удалось добиться согласия от Политбюро принять его предложение ограничиться высылкой Солженицына из СССР, но это стоило ему больших усилий, поскольку за арест и ссылку писателя помимо Косыгина высказывались Брежнев, Подгорный, Шелепин.
Не жаловал Косыгин и "отца" Пражской весны, лидера коммунистов Чехословакии Дубчека, которого он считал "подлецом # 1" в чехословацком руководстве. Однако он не только, как и Брежнев, до конца противился вводу войск в Чехословакию, но и сумел дать близкий к истине анализ "оппортунизма" Дубчека и его сторонников. Показательна в этом плане стычка Косыгина с Андроповым, который выступал сторонником жестких мер в отношении "прогнившего" чехословацкого руководства. 19 июля 1968 года на заседании Политбюро Председатель КГБ резко выступил против инициативы Брежнева и Косыгина о проведении двухсторонних переговоров руководства СССР и Чехословакии с тем, чтобы попытаться воздействовать на чехословаков всеми возможными мерами "политического воздействия". "Я считаю, - говорил Андропов, - что в практическом плане эта встреча мало что даст, и в связи с этим вы зря, Алексей Николаевич, наступаете на меня. Они сейчас борются за свою шкуру и борются с остервенением. Правые во главе с Дубчеком стоят твердо на своей платформе. И готовимся не только мы, а готовятся и они очень тщательно. Они сейчас готовят рабочий класс, рабочую милицию. Все идет против нас". На этот выпад Косыгин ответил так: "Я хотел бы также ответить т. Андропову, я на вас не наступаю, наоборот, наступаете вы. На мой взгляд, они борются не за свою собственную шкуру, они борются за социал-демократическую программу. Вот их суть борьбы. Они борются с остервенением, но за ясные для них цели, за то, чтобы превратить на первых порах Чехословакию в Югославию, а затем во что-то похожее на Австрию".
В конце 80-х - начале 90-х годов эти предположения стали реальностью. Помимо скрытого неприятия Косыгиным идеологического развенчания Сталина Хрущевым у него были веские основания быть недовольным экономическими преобразованиями Никиты Сергеевича. Косыгин не понимал и не принимал бесчисленные реорганизации органов управления народным хозяйством, происходившие в период "оттепели". Особенное недовольство у него вызывало упразднение Хрущевым отраслевых министерств, вместо которых возникли пресловутые совнархозы. Правда, Косыгин не высказывал своего недовольства упразднением так открыто и явно, как, например, председатель Госплана Николай Байбаков, который на вопрос Хрущева о том, как он относится к совнархозам, откровенно заявил: "Нельзя ликвидировать Министерства топливно-энергетической, оборонной промышленности, транспорта, сырьевые и машиностроительные... Если мы ликвидируем министерства, то потеряем бразды правления экономикой". Подобные откровения Байбакова закончились для него тем, что его сняли с российского Госплана и отправили руководить совнархозом в Краснодарский край.
Косыгин в отличие от Байбакова избегал спорить с Хрущевым по принципиальным вопросам реформирования системы управления экономикой. Правда, в 1962 году он выступил против его идеи создания Комитета партийного и государственного контроля ЦК КПСС и Совета Министров СССР, но на решение Хрущева о создании этого комитета протесты Косыгина не повлияли. Чаще всего не влияли на него и протесты Косыгина по многим конкретным хозяйственным вопросам. Один из сотрудников Секретариата Совмина Анатолий Рябков вспоминал о конфликте Косыгина с Хрущевым по вопросу строительства целлюлозно-бумажного комбината в районе Астрахани. Эту идею внушил ему бывший министр бумажной промышленности Орлов, уверявший, что строительство комбината в дельте Волги чрезвычайно выгодно: огромные заросли камыша, можно, мол, использовать в качестве сырья для целлюлозы и картона. Хрущев потребовал от Косыгина выделить на строительство этого комбината около 300 с лишним миллионов рублей. Косыгин не соглашался, поскольку план на очередной год был уже сверстан и строительство комбината потребовало бы взять деньги, предназначенные для химии, металлургии и машиностроения. Кроме того, он высказывал сомнение относительно годности камыша в качестве сырья для целлюлозы и картона. Однако Хрущев настоял на своем: комбинат был построен, но толку от него не было никакого - одни убытки. "Камыш, - вспоминал Рябков, - как и полагал Алексей Николаевич, не оправдал надежд: "местное сырье" оказалось негодным для производства целлюлозы и картона. Кроме того, после массового сбора в первый год рост камыша на выкопанных местах не возобновился. Этим был нанесен ущерб и природному комплексу дельты: создались неблагоприятные условия для гнездования водоплавающих, нереста рыбы. А лес в дальнейшем пришлось возить из Архангельска, Костромы, Вологды..."
Недовольство Косыгина политикой Хрущева участники заговора октября 1964 года обратили в свою пользу. По свидетельству Шелепина Косыгин был поставлен в известность о готовящемся смещении Никиты Сергеевича со всех его постов. На заседании Президиума ЦК КПСС 13-14 октября, предшествующего известному пленуму, на котором снимали Хрущева, Косыгин выступал вслед за Микояном, который пытался заступаться за Хрущева, предлагая, в частности, сохранить за ним пост Председателя Совета Министров СССР. Косыгин резко выступил против этого предложения, заявив, в частности, о том, что "полумерами не удастся решить. Стиль т. Хрущева не ленинский".
После смещения Хрущева Косыгин занял должность Председателя Совета министров, на которой проработал 16 лет. В 1965 году он выступил с рядом инициатив, получивших название "косыгинских реформ". Эти реформы, с одной стороны, были призваны покончить с "хрущевскими" экспериментами с системой управления народным хозяйством, с другой - дать новые импульсы развитию экономики. Первая задача была выполнена успешно - взамен совнархозов снова вернули министерства. Успешно начали проводиться в жизнь и главные идеи "косыгинских реформ" в области планирования народного хозяйства. Смысл этих реформ, по мнению одного из референтов Косыгина Игоря Карпенко, заключался в том, чтобы "сменить военно-штабную систему с ее главным лозунгом "План любой ценой".