Итак, в 1859г. ещё не сложились условия для отмены нейтрализации Чёрного моря. Всё же надежда на успех не покидала Горчакова. Именно в это время он пророчески произнёс: «Я не скрываю, что мы хотим избавиться от договора 1856г., исключить из международного права нейтрализацию Чёрного моря. Мы добьемся этого, ибо всегда к этому стремимся. Надеюсь ещё при жизни это увидеть». На повестку дня стал вопрос: кто может помочь в отмене нейтрализации Чёрного моря ? Таким государством оказалась Пруссия.
Пруссия была жизненно заинтересована в поддержке со стороны России. Бисмарк, давно замышлявший объединить Германию «железом и кровью», первый начал предпринимать шаги к сближению двух стран. Благоприятной почвой для этого послужили обострение отношений России с западными державами во время польского восстания 1863г. и взаимная заинтересованность в наведении «порядка» на польских землях. Александр Михайлович Горчаков, стремившийся путем либеральных уступок разрядить обстановку в Польше, был против соглашения с Пруссией. Однако АлександрII, которому были по душе традиционные династические связи с этой державой, решил по-своему. 27 января 1863г. министру иностранных дел пришлось подписать конвенцию с Пруссией. Когда царское правительство поставило в известность Бисмарка о своём согласии начать переговоры, это вызвало немедленный отклик. В августе 1866г. в Петербург прибыл прусский генерал Мантейфель. В ходе объяснений с ним была достигнута устная договоренность о том, что Пруссия поддержит требования России об отмене наиболее тяжелых статей Парижского трактата, когда этот вопрос будет поставлен российской дипломатией. Взамен царское правительство соглашалось придерживаться благожелательного нейтралитета во время объединения Германии. В 1868г. последовало устное соглашение, фактически имевшее силу договора.
Россия не могла поднять вопрос об отмене нейтрализации Черного моря, т. к. ей по-прежнему противостояла коалиция западных держав - участниц Парижского трактата. Внутренние трудности побуждали Россию избегать военных конфликтов. А.М. Горчаков старался обходить «острые углы» и не предпринимать действий, которые могли бы привести к войне. Россия, например, не стала заключать военный союз с Пруссией и вмешиваться в австро-прусскую войну.
В начале 70-х гг. Пруссия, разбив Австрию, готовилась начать войну против Франции. В этих условиях А.М. Горчаков продолжал проводить осторожную политику и не собирался чинить препятствий Пруссии. Незадолго до франко-прусской войны царь еще раз подтвердил свое обещание: в случае вмешательства Австро-Венгрии Россия выдвинет к ее границе трехсоттысячную армию и, если понадобится, займет Галицию. В августе 1870г. Бисмарк сообщил в Петербург, что Россия может рассчитывать на поддержку в случае пересмотра Парижского трактата. В ходе войны Франция потерпела поражение, что коренным образом изменило политическую обстановку в Европе. Внимание Англии и Австрии было приковано к конфликту. В этих условиях Горчаков считал возможным поставить вопрос не только о нейтрализации черного моря, но и о возвращении России Южной Бессарабии.
Горчаков заявил царю, что пора возбудить вопрос о «справедливом требовании» России и 15 октября 1870г. его предложения обсуждались на заседании Совета министров. Среди царских сановников не было единства мнений. Многие считали, что выступление России может привести к нежелательным последствиям, и предлагали сначала выяснить мнение европейских правительств. Однако Горчаков возражал: это могло привести к утверждению незыблемости Парижского трактата, что сделало бы пересмотр его условий мирным путем невозможным. Канцлер сомневался в возможности рассчитывать на признательность Пруссии в будущем, поэтому настаивал на немедленных действиях. По предложению военного министра Д. А. Милютина было решено сделать заявление об отмене статей трактата, относящихся к Черному морю, и не касаться территориальных требований.
19 октября 1870г. циркуляр Горчакова о решении России не соблюдать часть статей Парижского трактата был направлен в российские посольства для вручения правительствам государств, подписавшим этот договор. Момент для заявления был выбран исключительно удачно: Франция потерпела военный разгром, Пруссия обещала поддержку, Австро-Венгрия не рискнула бы выступить против России, опасаясь подвергнуться новому нападению Пруссии, Англия же всегда избегала единоличных военных действий.
В этом циркуляре Россия заявляла о неоднократном нарушении Парижского договора державами, подписавшими его. Трактат ставил Россию в опасное положение, т. к. Турция, Англия и Франция сохраняли право содержать свои военные эскадры в Средиземном море. Появление в военное время с согласия Турции иностранных судов в Черном море нарушило бы полный нейтралитет, присвоенный этим водам, и сделало бы Причерноморское побережье открытым для нападения. В циркуляре отмечалось, что Россия «не может долее считать себя связанной» положениями трактата, которые ограничивают ее безопасность на Черном море. Одновременно царское правительство заявляло о намерении соблюдать все остальные пункты Парижского договора.
Циркуляр Горчакова произвел в Европе впечатление «разорвавшейся бомбы». Австрийское, английское и итальянское правительства возражали против одностороннего пересмотра трактата, поэтому Англия предложила созвать конференцию по этому вопросу с участием держав, участвовавших в его подписании. Франция была занята собственными делами. Прусский канцлер Бисмарк, несмотря на то, что был «раздражен» выступлением России, заявил о поддержке ее требования об отмене «самых неудачных статей» трактата. Соединенные Штаты также заявили, что никогда не признавали постановлений Парижского трактата об ограничении прав России на Черном море.
Главной заботой Горчакова стало закрепление объявленного в циркуляре освобождения России от обязательств по нейтрализации Черного моря. В ответных нотах, разосланных всем европейским правительствам, канцлер старался найти убедительные аргументы для каждой державы и соглашался на созыв международной конференции. Она открылась 5 января 1871г. в Лондоне. 1 марта 1871г. была подписана Лондонская конвенция, которая отменила все ограничения для России, Турции и других прибрежных стран на Черном море. Отныне Россия могла содержать там военный флот и строить военно-морские базы. В мирное время проливы признавались закрытыми для военных судов всех стран.
Отмена унизительных статей Парижского трактата явилась крупным успехом российской дипломатии. Общественное мнение России справедливо приписывало этот успех Горчакову. 70-летний дипломат переживал подлинный триумф. Сам он считал решение этой важной внешнеполитической задачи главной достижением всей своей дипломатической деятельности. Значение этого еще более возрастало, если учесть, что на протяжении длительного периода, когда Европа переживала «неспокойное время», Россия не была втянута в военные конфликты.
Победа России на конференции укрепила ее международные позиции. Отмена нейтрализации Черного моря упрочила безопасность южных границ государства, способствовала экономическому развитию страны, прогрессу и во внешней торговле и ускорила освоение Новороссийского края.
Столь же удачными были действия Горчакова и во время так называемой «военной тревоги» 1875г., когда Германия открыто готовилась к новой войне с Францией. В тех условиях России не было уже выгодно чрезвычайное усиление позиций Германии в Европе и ослабление Франции. Горчаков в 1875 году добился от Германии отказа от попытки вторично разгромить Францию. Со своей стороны, Горчаков пытался использовать «Союз трёх императоров» для дипломатической подготовки новой войны против Турции. Одновременно были начаты переговоры с Великобританией. Благодаря этим шагам был обеспечен нейтралитет европейских держав в русско-турецкой войне 1877-1878гг. Успехи русских войск привели к заключению Сан-Стефанского мирного договора 1878, условия которого вызвали протест Австро-Венгрии и Великобритании. Создалась угроза образования антирусской коалиции. В этой обстановке Горчаков согласился на созыв Берлинского конгресса 1878г., неудачный для России исход которого подорвал престиж Горчакова в правящих кругах России и ослабил его влияние на внешнюю политику.
В 1876г., в день 50-летний службы в Министерстве иностранных дел, Александру Михайловичу Горчакову был присвоен высший в императорской России гражданский чин - он стал государственным канцлером.
В 1878г. ему было уже 80 лет. 22 марта 1882г., согласно личному желанию, он полностью отошел от государственных дел. 27 февраля (12 марта) 1883г. А.М. Горчаков умер и был торжественно погребен в Сергиевской пустыни близ Петербурга.