Оценивая свою роль в объединении страны, Бисмарк говорил, что он всегда радовался, когда ему хоть на шаг удавалось приблизиться к единству Германии каким бы то ни было путем. Победоносные войны и образование единой империи примирило Вильгельма и Бисмарка с большей частью оппозиции, которая с того момента стала восторженно приветствовать завоевательную политику первого канцлера.
«Железный канцлер» - так стали называть Бисмарка. Он стал управлять империей при полной поддержке рейхстага. На этом посту он провел ряд реформ - правовую, финансовую и системы управления. Трудности вызвал конфликт с католической церковью. В объединенной Германии католики составляли треть населения, когда как Пруссия придерживалась протестантской ориентации. При проведении реформы образования появились серьезные религиозные противоречия, а решительная деятельность католической партии «Центр» в рейхстаге вынудила Бисмарка принять ряд мер. Борьба против засилья католиков получила название борьбы за культуру - «культуркампфа». По приказу правительства многие католические священнослужители были арестованы и сотни епархий остались без духовных руководителей. На их место назначались новые епископы, но только с согласия правительства. Служителям церкви было запрещено находиться на государственной службе, школа отделилась от церкви, в стране был введен гражданский брак, а иезуиты изгнаны из Германии.
Вопросы внешней политики в деятельности Бисмарка были приоритетными. Он строил отношения с другими государствами исходя из ситуации, возникшей после поражения Франции в ходе франко-прусской войны 1870- 1871 годов. Немалая роль Бисмарком была отведена России, которая благосклонно относилась ко всем усилиям Бисмарка за его призыв к нейтралитету Пруссии в ходе Крымской войны и активное противостояние идеям западных государств по разделу России. В ходе войны Пруссии и Франции Россия придерживалась вооруженного нейтралитета, удерживая Австрию от выступления на стороне Франции.
Внешнеполитический талант Бисмарка проявился в умении строить политику на использовании противоречий между европейскими государствами. Он пытался столкнуть Англию, Австро-Венгрию и Россию, имеющих интересы на Балканах с помощью сложной системы союзов, примыкая к той стороне, которая в тот момент имела меньшие преимущества в этом регионе. Та же система обеспечивала Германии изоляцию Франции и препятствовала созданию любой антигерманской коалиции. Так, например, после победы России в русско-турецкой войне, что значительно укрепило ее положение на Балканском полуострове, Бисмарк немедленно пошел на сближение с Австро-Венгрией, в то же время оставаясь с Россией в хороших отношениях. При возникновении англо-французских противоречий на Ближнем Востоке он обещал Англии помощь в случае войны в Египте, тем самым подрывая позиции Франции.
К Франции Бисмарк относился особо, и некоторые исследователи связывали эту «нелюбовь» канцлера с гибелью трех родственников Бисмарка в период наполеоновских войн. Эта страна была постоянной мишенью агрессивной политики «железного канцлера». Союзнические коалиции, создаваемые им, поддерживали Германию в противостоянии Франции. Бисмарку удалось заключить так называемый «Союз трех императоров» между Германией, Россией и Австрией, способствовавший поддержанию мира в Европе. Но из-за противоречий на Балканах между Россией и Австро-Венгрией союз распался. Вся внешнеполитическая деятельность Бисмарка привела к тому, что Германия при нем стала одним из лидеров международной политики. По мере усиления ее военной и экономической мощи интересы Германии стали распространяться и на Африку, где она захватила ряд колоний. Но здесь Бисмарку пришлось войти в противоречия с Англией, и для обеспечения безопасности страны в 1887 году был заключен «перестраховочный договор» между Россией и Германией. Согласно договору, обе страны обязались поддерживать взаимный нейтралитет в случае нападения третьей державы. Этим договором Бисмарк обеспечил также и безопасность восточных границ Германии, если вдруг Франция пожелает взять реванш за потерю Эльзаса и Лотарингии.
Изменения внешнеполитического курса приводили к смене «партийной ориентации» Бисмарка. До начала колониальной политики Германии он опирался на либералов, у которых экспансионистские планы Бисмарка вызвали протест. Разрыв с либералами относится в 1879 году, и в дальнейшем канцлер делал ставку на коалицию крупных землевладельцев, промышленников, высших военных и государственных чинов. Вскоре либералы были вытеснены из большой политики, а новый экономический курс страны был направлен на поддержку крупных промышленников и аграриев.
Бисмарк выступал против любого законодательства, регулирующего условия труда рабочих, и вел активную борьбу против социалистов. Он провел через рейхстаг «исключительный закон», запрещавший любую деятельность социал-демократических организаций. Но в то же время при нем была введена система государственного страхования по болезни (1883), в случае увечья (1884) и пенсионное обеспечение по старости (1889).
В годы правления Вильгельма I и Фридриха III, находившегося у власти всего полгода, позиции Бисмарка были более чем прочными, и ни одной оппозиционной группировке не удавалось поколебать их. Со вступлением на престол Вильгельма II в 1888 году Бисмарк потерял контроль над правительством. Новый император желал самостоятельно управлять своей страной, а самоуверенный и честолюбивый канцлер не желал играть вторую роль. Между ними отношения натягивались и возникало все больше и больше расхождений по вопросам как внутренней, так и внешней политики. И если Бисмарк ратовал за добрососедские отношения с Россией, понимая, что лучше жить в мире с этой сильной державой, то Вильгельм II призывал к войне с ней под предлогом угрозы с востока. Не сошлись они в вопросе о внесении изменений в «Исключительный закон против социалистов» и в вопросе о праве министров, подчиненных канцлеру. Все это привело к тому, что во время аудиенции у императора 18 марта 1890 года Бисмарк получил от Вильгельма II намек о желательной его отставке. Через два дня отставка Бисмарка была принята императором. Вильгельм II наградил бывшего канцлера титулом графа Лауэнбургского и присвоил ему звание генерал-полковника кавалерии. Он покинул Берлин, шумно приветствуемый толпой, которая воздавала ему почести за деятельность на благо Германии.
Переехав во Фридрихсруэ, Отто фон Бисмарк не сошел с политической сцены. В 1891 году он был избран в рейхстаг от Ганновера и подвергал резкой критике деятельность нового рейхсканцлера графа Лео фон Каприви.
В 1895 году в Германии было широко отпраздновано 80-летие «железного канцлера», а на следующий год он участвовал в коронации российского императора Николая II.
Отто фон Бисмарк скончался 30 июля 1898 года и был похоронен в имении Фридрихсруэ, согласно собственному желанию. На его надгробии была выбита надпись: «Преданный слуга немецкого кайзера Вильгельма I». При всей неоднозначности своей деятельности Отто фон Бисмарк остается одной из самых ярких фигур немецкой истории.