После смерти Андропова Горбачев был предполагаемым соперником Константина Черненко в борьбе за пост Генерального секретаря ЦК КПСС. Во время кратковременного правления Черненко неофициально являлся вторым лицом в партии и занимал пост секретаря ЦК КПСС по идеологии. В 1984-1985 годах занимал должность Председателя комиссии по иностранным делам Совета Союза ВС СССР (этот пост при Леониде Брежневе занимал Михаил Суслов, а при Юрии Андропове — Константин Черненко). В декабре 1984 года на совещании в ЦК КПСС выступил с докладом "Живое творчество народа", в котором говорил о необходимости преодоления догматических представлений о производственных отношения при социализме, развития самоуправления в экономике, поддержки новаторских инициатив, расширения гласности и "социалистической демократии". Доклад был опубликован лишь через полгода и содержал основные тезисы, на основе которых позже возникла программа "перестройки".
После смерти Черненко 11 марта 1985 года на внеочередном Пленуме ЦК Горбачев был избран Генеральным секретарем ЦК КПСС. По поручению Политбюро его кандидатуру предложил Андрей Громыко. В первые же месяцы работы в этой должности начал кадровые перестановки в партийном руководстве, отправляя на пенсию наиболее консервативных "брежневцев". Новые назначения получили: Николай Рыжков — Председатель Совета Министров, Егор Лигачев — секретарь ЦК по идеологии, Борис Ельцин — секретарь ЦК по вопросам строительства, а затем — первый секретарь Московского горкома, Эдуард Шеварднадзе — министр иностранных дел.
Занимая пост генерального секретаря ЦК КПСС, Горбачев был председателем Совета обороны СССР, Верховным Главнокомандующим Вооруженных Сил СССР.
Член Президиума Верховного Совета СССР (1985-1988 гг.) В мае 1985 года, выступая в Ленинграде, Горбачев впервые открыто заявил о снижении темпов экономического роста, отставании отечественного машиностроения, необходимости повышения жизненного уровня людей. Речь Горбачева была напечатана в газетах в сокращенном до неузнаваемости виде, а показана по телевидению лишь через 4 дня. В июне того же года на экономическом совещании в ЦК КПСС выдвинул лозунг ускорения научно- технического прогресса. Слово "ускорение" в 1985 — 1986 годах стало основным термином для обозначения начавшихся перемен в экономике и политике. В то же время некоторые новшества в политике были рассчитаны на привлечение симпатий сторонников "жесткой линии". В мае 1985 года были приняты постановление ЦК и ряд решений правительства и Президиума ВС, положившие начало антиалкогольной кампании, приведшей, среди прочего, к процветанию самогоноварения и способствовавшей дестабилизации финансовой системы страны.
В 1985-1988 годах Горбачев произвел радикальные изменения во внешнеполитическом курсе СССР. На XXVII съезде КПСС (февраль — март 1986 года) он обнародовал советскую программу построения безъядерного мира к 2000 году. В том же году во время визита в Индию подписал Делийскую декларацию о принципах ненасильственного и свободного от ядерного оружия мира.
в мае 1985 года на праздновании 40-летия победы над фашизмом Горбачев впервые за 20 лет упомянул в положительном контексте имя Иосифа Сталина, что вызвало бурные овации присутствовавших. На первой (закрытой) встрече с творческой интеллигенцией сказал, что сейчас не время возобновлять антисталинскую кампанию: "Мы же народ лбами столкнем!".
С ноября 1985 по декабрь 1988 года состоялось 5 встреч Горбачева с президентом США Рональдом Рейганом, в ходе которых были выработаны соглашения по сокращению некоторых видов ядерных и обычных вооружений. На XXVII съезде КПСС (февраль — март 1986 года) выступил с докладом, в котором высказался за экономическое обновление страны, повышение самостоятельности предприятий, сокращение госзаказа, демократические преобразования в обществе, повышение политической активности народа. С июня 1986 года эта политика получила название "перестройки". Секретарем ЦК КПСС сразу после съезда был избран Александр Яковлев. Возглавляемый Яковлевым отдел печати ЦК за 1986 год сменил многих руководителей журналов и газет, назначив главными редакторами сторонников последовательной "десталинизации" страны. Ослабление цензуры в печати получило название политики "гласности" и увенчалось к 1990 году принятием Закона о печати, в котором упразднялась государственная цензура. В декабре 1986 года Горбачев вернул из политической ссылки академика Андрея Сахарова и допустил его к участию в международных антивоенных совещаниях в Москве.
На пленуме ЦК КПСС в январе 1987 года впервые заявил, что советская система нуждается в демократизации и объявил о разработке нового избирательного законодательства.
На юбилейном пленуме ЦК КПСС в октябре 1987 года выступил с докладом, в котором впервые откровенно было сказано о "преступной роли сталинизма". Началась реабилитация многих репрессированных членов коммунистической партии. На этом же пленуме Горбачев впервые столкнулся с открытой критикой ЦК со стороны Борис Ельцина, требовавшего активизации "перестройки". По предложению Генерального секретаря Пленум принял резолюцию о признании выступления Ельцина "политически ошибочным". В июне 1988 года состоялась ХIХ партконференция, созванная для закрепления политического курса Горбачева. Впервые за последние 60 лет на официальном форуме развернулась острая дискуссия по политическим вопросам. Главным итогом конференции было начало политической реформы Советов и подготовка выборов народных депутатов на альтернативной основе, а также резолюция "О гласности", способствовавшая продвижению по пути к свободе слова. На конференции было принято решение о совмещении постов председателей Советов с соответствующими партийными постами. Это решение подверглось наиболее резкому осуждению со стороны радикально- реформаторского крыла партии как недемократическое, противоречащее принципу "разделения" властей на партийную и государственную. Фактически, оно однако лежало в русле нового курса на плавное перемещение власти от партийных к государственным структурам.
В этот период Горбачев неоднократно подчеркивал свою приверженность идеалам социализма, "заветам Ленина". В октябре 1988 года Горбачев осуществил серьезные перестановки в партийном и государственном руководстве. Секретариат ЦК в качестве коллегиального органа фактически прекратил существование. Егор Лигачев был отстранен от руководства идеологией и внешней политикой в Политбюро. Секретарем ЦК по международным делам стал Александр Яковлев. Сам Горбачев был избран вместо Громыко Председателем Президиума Верховного Совета СССР.
С октября 1988 г. — председатель Президиума Верховного Совета СССР. Народный депутат СССР от КПСС с марта 1989 г. по март 1990 г. С мая 1989 г. по март 1990 г. — председатель Верховного Совета СССР. В конце 1989 года во время встречи с новым президентом США Джорджем Бушем на острове Мальта Горбачев впервые заявил, что СССР готов не рассматривать США как своего военного противника.
С декабря 1989 г. по июнь 1990 г. председатель Российского бюро ЦК КПСС.
В феврале 1990 года на Пленуме ЦК КПСС Горбачев заявил о необходимости введения поста Президента СССР одновременно с отменой положения Конституции о руководящей роли КПСС в государстве. В марте 1990 года на III съезде народных депутатов СССР такие решения были приняты. По Конституции СССР глава государства должен был избираться всенародным голосованием. Для Горбачева было сделано исключение — он был избран Президентом прямо на съезде.
На XXVIII съезде КПСС в июле 1990 года Горбачев, преодолев сопротивление консервативного крыла, добился, в основном, поддержки своего курса. Он был переизбран на пост Генерального секретаря решением съезда, это уменьшило его зависимость от Центрального Комитета КПСС. Олицетворявший консервативное крыло Егор Лигачев проиграл выборы на пост заместителя Генерального секретаря.
В конце июля 1990 года Горбачев подписал соглашение с председателем ВС РСФСР
Борисом Ельциным о совместной разработке программы экономического реформирования страны на основе проекта Григория Явлинского "500 дней". Подготовленная программа получила поддержку всех 15 республик, но была решительно отвергнута Советом Министров СССР. В Верховном Совете СССР Горбачев выступал за объединение программ Явлинского-Шаталина и Абалкина-Рыжкова, что, по мнению обеих сторон, было невозможно.
В октябре 1990 года Горбачев как Президент СССР получил дополнительные полномочия для реализации программы "Основные направления стабилизации народного хозяйства и перехода к рыночной экономике", предусматривавшей создание "регулируемых рыночных отношений".
По мнению экспертного центра «Панорама» , сильный удар по авторитету Горбачева нанесла неудавшаяся, но приведшая к жертвам среди населения попытка свержения законных властей в Литве частями Советской Армии в январе 1991 г. Несмотря на требования обеих сторон, Горбачев так и не дал ясной оценки этим событиям.
В январе 1991 г. президентским указом Горбачев создал на базе бывших исследовательских институтов при ЦК КПСС Международный фонд соиально-экономических и политических исследований («Горбочев –фонд») — неправительственную общественно-научную организацию, призванную содействовать международным обменам, проведению коллективных и индивидуальных исследований, организовывать семинары и конференции, обучать начинающих политиков.