Свой богатейший военный опыт Рокоссовский использовал и в эти годы служения Родине. После должности заместителя министра обороны СССР он некоторое время занимает пост командующего Закавказским военным округом, затем возвращается в Москву и работает главным, а позднее — генеральным инспектором Министерства обороны. На этом посту маршал с успехом осуществляет контроль за подготовкой войск и поддержанием их в постоянной боевой готовности, стремится достичь того, чтобы в новых условиях советские воины были всегда готовы исполнить свой долг. Вот что писал он о новых условиях, сложившихся в армии:
«Высокое сознание своего долга перед Родиной, мастерство, организованность и строгое выполнение приказов начальников обуславливают в огромной степени успех боевой деятельности нашего воина. Но этого еще недостаточно, чтобы стать героем в современном бою. Ко всем этим качествам нужно приложить отличное знание боевой техники, умелое владение вверенным оружием, мастерство, физическую выносливость.
Современное оружие, особенно ракетио-ядерное, требует от воина больших знаний, умения быстро и четко управлять различного рода механизмами, аппаратурой. Боевая обстановка может потребовать в считанные минуты и даже секунды произвести сложные расчеты и сложные действия. Однако, невзирая на исключительное напряжение, воин должен действовать осмысленно, разумно, четко».
Благодаря постоянной заботе Коммунистической партии и Советского правительства, благодаря неустанному труду армейских работников всех рангов к началу 60-х годов произошли коренные изменения в вооружении и боевой технике Советской Армии, в организационной структуре, в теории военного искусства, в практике обучения и воспитания войск. Свершилась настоящая революция в военном деле, Советские Вооруженные Силы стали неизмеримо мощнее, а их боеготовность еще более выросла. В это огромное и необычайно важное дело внес свою посильную лепту и Рокоссовский.
Ему идет седьмой десяток, но активность его работы не снижается. Обязанностей у него очень много: он избран кандидатом в члены ЦК КПСС, депутатом Верховного Совета СССР. И на всех этих постах он трудится не жалея сил, трудится так, как привык делать это всю жизнь. Что из того, что голова его поседела, что здоровье уже не то! Он — коммунист, ветеран Советской Армии, и он не может оставаться бездеятельным, он не может замкнуться в узком кругу личных забот и переживаний. К этому зовет он и своих старых товарищей по армии, к этому направлен его труд в Советском комитете ветеранов войны.
Работе среди ветеранов войны, обобщению их опыта, передаче этого опыта молодому поколению он придает огромное значение. Его волнует, что не всегда ветераны Советской Армии могут донести свои знания и опыт молодежи.
Той же цели — передаче боевого опыта ветеранов молодежи — была посвящена и работа маршала Рокоссовского в ДОСААФ. Это добровольное оборонное общество, созданное почти полвека назад, Внесло существенный вклад в усиление могущества Советских Вооруженных Сил. В предвоенные и военные годы предшественник ДОСААФ — Осоавиахим сделал немало, осуществляя военную подготовку трудящихся, особенно молодежи. И в послевоенные годы, расширяя и совершенствуя формы и методы оборонно-массовой работы, добровольное общество воспитывает наших людей в духе советского патриотизма, в духе постоянной готовности защищать свое Отечество. В этом направлении вел свою работу в ДОСААФ маршал Рокоссовский. Он писал:
«Нам надо лучше, систематически, с чувством патриотической гордости знакомить молодежь с героями революционной борьбы, героями минувших войн, с жизнью замечательных людей страны и на этом воспитывать у воинов высокие нравственные качества. Пусть у каждого военнослужащего никогда не угасает стремление подражать героическим сынам родного народа, умножать их славу и славу своего Отечества. Пусть тот, кто допустил аморальный поступок, нарушил дисциплину, — пусть он поймет, что этим самым опозорил не только свое собственное имя, но и имя и славу своих отцов и старших братьев, очернил светлую память тех, кто отдал свои силы, знания и жизнь торжеству высоких идеалов коммунизма».
Сам Рокоссовский постоянно делает все, что может, чтобы его опыт, его огромные знания не лежали втуне, чтобы они стали достоянием окружающих. Об этом он пишет в своих статьях, а их много, очень много — за 1959—1968 годы имя Рокоссовского более тридцати раз появилось на страницах «Правды» и «Известий», «Красной звезды» и «Литературной газеты», «Военно-исторического журнала» и «Военных знаний», — об этом он говорит на встречах с солдатами и трудящимися. И всегда, где бы он ни выступал, вспоминая прошлое, он увязывает его с настоящим.
Он все время в движении, все время с людьми и, как прежде, внимателен и чуток с ними. Он ведет огромную переписку. Ему пишут и старые его товарищи времен гражданской войны, товарищи, с которыми он начинал свой боевой путь в Красной Армии. Ему пишет и бывший солдат Центрального фронта, ныне артист ведущего оперного театра страны — талант певца был впервые замечен маршалом, и он помог солдату стать на путь искусства. Ему пишет бывший солдат 1-го Белорусского фронта, он жалуется своему командующему, что местные власти не торопятся помочь ему, инвалиду войны, — не торопятся достать лесоматериалы, необходимые для строительства дома, — и маршал Рокоссовский хлопочет о помощи...
Он по-прежнему страстно любит охоту, по-прежнему начинает свой день с зарядки — без нее он не мыслит своего напряженного трудового дня. Зарядка помогает ему сохранять бодрость на протяжении всех суток, наполненных встречами и беседами с людьми.
Но главное содержание последних лет его жизни — работа над мемуарами. Это кропотливое, трудоемкое, непривычное для него дело, а у него есть что рассказать людям, ведь за плечами такая длинная и богатая событиями жизнь! Он хочет написать несколько книг, в которых было бы рассказано и о далекой юности, и о гражданской войне, и, конечно, о войне Отечественной. Именно о событиях Великой Отечественной войны в первую очередь хочет Рокоссовский поведать людям, и он торопится... Но ему не суждено увидеть «Солдатский долг» вышедшим в свет. За несколько месяцев до появления книги тяжелая и безжалостная болезнь, с которой человечество не научилось еще бороться, оборвала жизнь Константина Константиновича Рокоссовского. 3 августа 1968 года, в 54-годовщину службы в армии, его не стало...
В одном из красивейших залов Центрального музея Вооруженных Сил СССР в Москве, в Зале Победы, для всеобщего обозрения создана экспозиция наград выдающихся полководцев Советской Армии. В одной из витрин находится и парадный мундир Рокоссовского со всеми наградами. Их много — более сорока! Семь орденов Ленина, шесть орденов Красного Знамени... — Родина щедро наградила своего верного сына.
Жизнь человеческая кратковременна. Счастлив тот, о ком с почтением и благодарностью будут вспоминать потомки. Таков Константин Рокоссовский. Его нет, но существует и крепнет армия, существует и процветает страна, которым отдал всю свою жизнь этот замечательный человек.