4 января 1918 года Литвинов был назначен уполномоченным Народного комиссариата по иностранным делам (НКИД) в Лондоне. "Итак, я стал полпредом, - вспоминал позднее Литвинов, - но у меня ничего не было: ни директив из Москвы, ни денег, ни людей. Излишне говорить, что у меня не было ни опыта, ни подготовки к дипломатической работе". Форин оффис отказался признать его в качестве официального уполномоченного, но согласился поддерживать с советским представителем отношения де-факто.
Литвинов создал в Лондоне "Русское Народное посольство" и "Русское Народное консульство", наладил связь с Москвой, начал информировать НКИД о происходящих событиях, давал интервью местным газетам, выступал на собраниях.
Летом в Москве был раскрыт так называемый "заговор послов", ключевую роль в котором играл английский посланник Брюс Локкарт. 3 сентября 1918 года Локкарт был арестован. Британцы предприняли ответные меры: Литвинов и некоторые сотрудники советского представительства оказались в Брикстонской тюрьме. В результате обмена Литвинов и его сотрудники в конце октября вернулись из Англии в Россию.
Не прошло и полутора месяцев, как он выехал в Стокгольм. В Швеции дипломат устанавливал деловые связи. В частности, в середине января 1919 года он вместе с советским полпредом В. Воровским провел полуофициальные переговоры с американским дипломатом У. Буклером, приехавшим из Лондона по поручению президента Вильсона.
В конце января советское полпредство было выслано из Швеции, которая присоединилась к экономической и дипломатической блокаде России, установленной странами Антанты.
25 ноября 1919 года в Копенгагене, столице нейтральной Дании, начались англо-советские переговоры по обмену военнопленными. Глава советской делегации Литвинов успешно справился с задачей. В 1920 году он подписал также соглашение об обмене военнопленными с другими странами - Италией, Францией, Швейцарией, Австрией. При этом Копенгагенский договор с Австрией предусматривал, наряду с обменом военнопленными, нейтралитет Австрии в продолжавшейся войне против Советской России и начало фактических отношений между двумя странами.
По возвращении из Дании Литвинов в течение пяти месяцев являлся полпредом в Эстонии, где одновременно выполнял функции торгпреда. 10 мая 1921 года его назначили заместителем наркома иностранных дел.
В основном он курировал отношения РСФСР, а затем СССР с западными странами, которые хорошо знал.
Вместе с Чичериным Литвинов участвовал в работе советской делегации на Генуэзской конференции в апреле - мае 1922 года. Затем он возглавлял советскую делегацию на международной экономической конференции в Гааге.
Литвинов много занимался организационными вопросами, часто замещал наркома. Его отличали спокойная уверенность, целеустремленность, точность, аккуратность. Если заведующий отделом опаздывал к нему на прием в назначенное время, то он его в этот день уже не принимал. Иностранцам импонировала его точность и конкретность. Литвинов уверенно брал на себя ответственность, проявлял уступчивость в ряде спорных вопросов. Однако он, по словам германского посла в Москве Г. фон Дирксена, "не любил около себя никаких других богов".
В ноябре 1927 года Литвинов впервые во главе советской делегации принял участие в IV сессии Подготовительной комиссии Лиги Наций к конференции по разоружению, предложив по поручению Советского правительства проект немедленного всеобщего и полного разоружения. К сожалению, проект был отвергнут.
С 1928 года Литвинов фактически возглавлял наркомат. Чичерин находился долгое время на лечении за границей. Это давало Максиму Максимовичу широкие возможности для постепенной переориентации советской внешней политики. Он стремился к улучшению отношений прежде всего с западными странами: Великобританией, Францией и США.
Он считал, что для укрепления своего авторитета СССР должен участвовать в различного рода международных пактах и конференциях. Особенно высоко он ставил вопросы разоружения и уделял много внимания переговорному процессу, проводившемуся при его активном участии в Женеве. Одной из первых подобных акций было подписание Литвиновым с рядом соседних с СССР государств Московского (на Западе его называют Литвиновским) протокола от 9 февраля 1929 года о досрочном введении в действие пакта Бриана - Келлога о запрещении войны в качестве орудия национальной политики.
21 июля 1930 года Литвинов был назначен наркомом иностранных дел СССР. Свое кредо он изложил советскому полпреду в Лондоне И.М. Майскому: "Советская внешняя политика, - говорил нарком, - есть политика мира. Это вытекает из наших принципов, из самих основ Советского государства... До сих пор наилучшие отношения у нас были с Германией, и в своих действиях мы старались, насколько возможно, поддерживать единый фронт с Германией или во всяком случае принимать во внимание ее позицию и интересы... Не сегодня завтра к власти придет Гитлер, и ситуация сразу изменится. Германия из нашего "друга" превратится в нашего врага... Очевидно, что теперь в интересах политики мира нам надо попробовать улучшить отношения с Англией и Францией, особенно с Англией, как ведущей державой капиталистической Европы".
Расчеты Литвинова на быстрое сближение с Великобританией не оправдались. Но было важно, чтобы она не противодействовала политике сближения СССР с другими странами. Уже в ноябре 1932 года был подписан договор о ненападении между СССР и Францией, аналогичные соглашения были заключены с Польшей и рядом других государств Восточной Европы.
В 1933 году по приглашению большой группы государств СССР вступил в Лигу Наций. У. Черчилль в своих воспоминаниях писал: "Литвинов, который представлял Советское правительство, быстро приспособился к атмосфере Лиги Наций и пользовался ее моральным языком с таким большим успехом, что он скоро стал выдающимся деятелем".
В своем стремлении содействовать сохранению мира Советское правительство согласилось на участие в региональных пактах взаимопомощи, заключив в 1935 году соответствующие договоры с Францией и Чехословакией. Литвинов резко возражал против высказываний тех политиков и журналистов, которые позже пытались "изобразить эти пакты как какой-то подарок или благодеяние Советскому Союзу". Эти пакты, указывал он, "помимо оказания помощи в случае войны, имеют также целью предотвращение или уменьшение опасности войны в определенных частях Европы".
Успех сопутствовал Литвинову и в другом важном начинании - установлении дипломатических отношений СССР с Соединенными Штатами Америки. Переговоры Литвинова с Рузвельтом в ноябре 1933 года не были легкими. Потребовалась неделя, чтобы добиться соглашения об установлении дипломатических отношений. Одновременно был произведен обмен нотами о пропаганде, то есть о невмешательстве во внутренние дела друг друга, о правовой защите граждан, о пользовании религиозной свободой для американских граждан, проживающих на территории СССР, о судебных делах, согласно которым СССР отказывался от всех исковых прав и претензий к американским гражданам, включая суммы, которые могли причитаться ему по решению американских судов.
В ходе переговоров Литвинову удалось установить прекрасные личные отношения с президентом Ф. Рузвельтом, с рядом его сотрудников и министров.
Вернувшись в Россию, Максим Максимович, докладывая об итогах своей поездки, отметил, что признание СССР Америкой - это было "падение последней позиции, последнего форта в том наступлении на нас капиталистического мира, который принял после Октября форму непризнания и бойкота".
С середины 1930-х годов положение в мире все более осложняется. Литвинов призывает с трибуны Лиги Наций к коллективным действиям против агрессора.
Драматические события 1939 года стали новым поворотным пунктом в судьбе Литвинова. 3ахват Чехословакии и другие акты германской агрессии не встречали должного отпора со стороны Великобритании, Франции и других стран. Советский Союз стремился обеспечить безопасность своих западных рубежей, заключив соглашения с Англией и Францией о взаимопомощи. Однако правительства этих стран, готовя, по словам У. Черчилля, полумеры и юридические компромиссы, всячески затягивали переговоры. "Эта оттяжка стала фатальной для Литвинова, - писал У. Черчилль. -...Доверие к нам упало. Требовалась совершенно другая внешняя политика для спасения России".
Сообщения телеграфных агентств, известивших об Указе Президиума Верховного Совета СССР от 3 мая 1939 года о назначении В.М. Молотова наркомом иностранных дел, потрясли столицы многих государств своей неожиданностью.
До февраля 1941 года Литвинов оставался членом ЦК ВКП(б). В течение нескольких дней он даже принимал участие в работе комиссии, занимавшейся чисткой Наркоминдела.
Оставшись не у дел, Литвинов жил на даче под Москвой. Он напомнил о себе... 22 июня 1941 года, когда пришел в Наркоминдел. Война поставила вопрос о скорейшем заключении союза с Великобританией и США. Приехавший в Москву личный представитель президента США Г. Гопкинс встретился с Молотовым и Сталиным. На беседе у Сталина с Гопкинсом 31 июля Литвинов присутствовал в качестве переводчика. Это была демонстрация доверия к нему со стороны Сталина.
10 ноября 1941 года Литвинов был назначен послом СССР в США и одновременно заместителем наркома иностранных дел. Через два дня он вылетел с женой и секретарем в США.
Содействие в переписке Сталина с Ф. Рузвельтом и выполнение прямых указаний главы Советского правительства были в тот период особо важным элементом в деятельности посла. По поручению Советского правительства Литвинов 1 января 1942 года подписал в Вашингтоне вместе с Ф. Рузвельтом, У. Черчиллем и представителями еще 26 государств Декларацию Объединенных Наций, свидетельствующую о солидарности и решимости этих стран воевать до победы. После Атлантической хартии это был еще один важный шаг в создании Организации Объединенных Наций.