И в мирное время перед Советскими Вооруженными Силами вставали серьезные трудности. Они были закономерны: вся страна переживала нелегкий период, приходилось возрождать из пепла города и села, восстанавливать экономику разрушенных и разграбленных врагом областей. Перестройка жизни и учебы войск тоже давалась нелегко. Нужны были новые методы обучения и воспитания солдат и офицеров, новая организация службы. Рокоссовскому приходилось думать о многих вопросах, искать новые решения многих проблем.
Работа в Польше проходила тогда в весьма сложной обстановке. Революционные преобразования в стране в послевоенный период совершались в обстановке ожесточенной классовой борьбы. Остатки эксплуататорских классов стремились восстановить старый, отживший свой век капиталистический строй, не допустить создания социалистического государства. В борьбе против народного государства они не брезговали ничем — убийства и диверсии, шпионаж и заговоры — все шло в ход.
В таких условиях Военный совет, возглавляемый Рокоссовским, сделал все, чтобы установить прочные и широкие связи с правительством, общественными организациями, демократическими партиями Польши, с руководителями Войска Польского. Рокоссовский заботился о том, чтобы советские военные части поддерживали тесную связь с местными правительственными и общественными организациями, чтобы личный состав, частей и подразделений помогал братскому народу в восстановлении разрушенного войной и оккупацией народного хозяйства.
Советские офицеры и солдаты делали это с большой готовностью. Вместе с польскими рабочими они пускали в ход бездействовавшие фабрики и заводы, вместе с польскими крестьянами выполняли сельскохозяйственные работы на селе. Осенью 1945-го и весной 1946 года советские воины засеяли не менее 750 тысяч гектаров земли. Они очищали поля от мин, ремонтировали брошенные гитлеровцами тракторы, тягачи, автомашины и затем безвозмездно передавали их крестьянским кооперативным организациям.
В то же время политуправление руководимой Рокоссовским группы войск вело большую политико-воспитательную работу среди польского населения. Советские люди разъясняли местным жителям смысл событий, происходивших в Польше, они убеждали их в правильности действий народного правительства. Когда в июне 1948 года было принято решение о выводе части советских войск с территории Польши, Рокоссовский следил за тем, чтобы Войску Польскому были переданы в полной исправности освободившиеся помещения, казармы, склады, лечебные учреждения.
Советское правительство, осуществляя сокращение Вооруженных Сил, руководствовалось идеями сохранения мира и дружбы между народами и надеялось, что его примеру последуют и западные державы. Но этим надеждам не суждено было оправдаться. Правительство США и их союзники начали «холодную войну», одновременно форсируя гонку вооружения и наращивая свои армии. Уже в 1949 году, то есть менее чем через год после завершения демобилизации армии, ввиду резкого обострения международной обстановки Советское правительство было вынуждено в интересах укрепления обороны страны пойти на увеличение численности армия.
Необходимость укрепления оборонной мощи и повышения боеспособности встала и перед народной армией Польши. Советский Союз, столь щедро помогавший Войску Польскому в годы войны и сразу после нее, и в этот период по-прежнему поставлял в Польщу вооружение, содействовал строительству оборонных предприятий. По просьбе польского правительства значительная группа советских военных специалистов, генералов и офицеров была направлена в Польшу и в течение длительного времени находилась на руководящих постах в Войске Польском.
Президент Польши Болеслав Берут неоднократно обращался к Советскому правительству с просьбой направить Константина Константиновича Рокоссовского в распоряжение польского правительства для службы в Войске Польском. Рокоссовский полностью предоставил решение этого вопроса Советскому правительству, и оно согласилось удовлетворить просьбу президента Польской Народной Республики. Рокоссовский был освобожден от военной службы в Советской Армии и выехал в Польшу. Так он надел мундир маршала Польши.
В первом своем приказе по Войску Польскому от 7 ноября 1949 года Рокоссовский писал: «Мне выпало на долю в течение многих лет служить делу трудящегося народа в рядах героической Советской Армии. Волею военной судьбы я был командующим тем фронтом, в составе которого героически сражались на славном пути от Ленино через Варшаву, Гданьск, Гдыню, Колобжег, Поморский Вал, вплоть до Берлина солдаты вновь возникшего Войска Польского, солдаты 1-й дивизии, а поздней и 1-й армии...
Во исполнение обязанностей, возложенных на меня Страной и Президентом, во исполнение обязанностей перед польскими трудящимися и польским народом, среди которого я вырос и с которым всегда чувствовал себя связанным всем своим сердцем, а также перед братским советским народом, который воспитал меня как солдата и полководца, я принимаю доверенный мне пост, чтобы все свои силы посвятить дальнейшему развитию и укреплению нашего Войска Польского и обороны Речи Посполитой...»
С ноября 1949 года Рокоссовский занимает пост министра национальной обороны и заместителя председателя Совета Министров ПНР. Всю свою энергию он обращает на преобразование Войска Польского, на создание современной армии.
В ходе демобилизации польской армии в первые послевоенные годы ее численность сократилась с 400 до 200 тысяч. В 1949—1955 годах произошло некоторое ее увеличение — до 280 тысяч человек. Но главные изменения происходили в Войске Польском в связи с его перевооружением и реорганизацией. В эти годы в стране была создана военная промышленность, построены новые предприятия по выпуску артиллерийской, танковой, авиационной и другой техники, не существовавшие ранее или же слабо развитые. Это позволило вооружить польских солдат новой военной техникой. Сила огня польской пехотной дивизии возросла многократно по сравнению с силой огня предвоенной дивизии. Войско Польское располагало теперь танковыми и моторизованными соединениями, способными к быстрому маневру и хорошо обученными для ведения военных действий в новых условиях — в условиях ядерной войны.
В обучении войск Рокоссовский широко использовал свой богатый опыт, приобретенный во время службы в Советской Армии. В апреле 1950 года был введен новый устав внутренней службы польской армии, многие положения которого перекликались с уставом Советской Армии. В августе этого же года сейм принял закон о введении новой клятвы, в которой говорилось об обязанностях солдата по отношению к народной Польше.
Больших трудов стоила Рокоссовскому организация обучения и воспитания офицерских кадров Войска Польского. В годы пребывания Рокоссовского на посту министра обороны в армии развернулась массовая подготовка новых кадров офицеров. Были открыты Академия Генерального штаба имени Кароля Сверчевского, Военно-техническая академия имени Ярослава Домбровского, Военно-политическая академия имени Ф. Э. Дзержинского. В результате к 1956 году военные кадры Войска Польского полностью состояли из преданных делу социализма офицеров — выходцев из рабочих и крестьян.
Реорганизация, перевооружение и обучение Войска Польского проходили при постоянной и щедрой помощи Советского Союза, и Рокоссовский стремился, чтобы солдаты и офицеры вверенной ему армии твердо усвоили это обстоятельство. Вот он пишет в одном из приказов по армии: «Каждый поляк — патриот, каждый солдат Войска Польского знает, что только благодаря Советской Армии, благодаря ее богатому боевому опыту, благодаря ее замечательному примеру, благодаря помощи, оказанной советскими военными специалистами, мы могли избегнуть трудностей при строительстве наших вооруженных сил и в относительно короткий срок создать армию нового типа, каковой является Войско Польское».
Семь лет Рокоссовский возглавлял армию народной Польши и сделал для ее укрепления очень много. В ноябре 1956 года он попросил Польское правительство освободить его от занимаемых должностей. Просьба Рокоссовского была удовлетворена, и с согласия Советского правительства он возвратился в СССР. О признании заслуг Рокоссовского перед польским народом и армией свидетельствует правительственная грамота, врученная ему незадолго до отъезда из Польши.
Рокоссовскому рано уходить на отдых, хотя он, конечно, его заслужил. По возвращении в СССР Рокоссовский назначен заместителем министра обороны СССР, вновь он с головой окунается в армейскую жизнь.
В СССР Рокоссовский возвратился в момент, когда Советские Вооруженные Силы находились в начале нового этапа своего развития — этапа коренных преобразований во всех областях военного дела. Появление ядерного оружия совершило настоящую революцию в военном искусстве. Поскольку все время существовала военная угроза со стороны империалистических агрессоров, внедрение ядерного оружия становилось жизненной необходимостью для того, чтобы укрепить обороноспособность нашего Отечества и социалистического лагеря. Коммунистическая партия и Советское правительство неизменно стремились к тому, чтобы армия и флот нашей страны располагали всем необходимым для надежной защиты советского народа от возможных случайностей.
Еще в 1954 году офицеры и солдаты Советских Вооруженных Сил начали изучение атомного оружия и способов боевых действий в условиях атомной войны. К тому времени на вооружении Советской Армии и Военно-Морского Флота уже имелось ядерное оружие, в том числе и водородная бомба. После того как на вооружении Советской Армии появились ракеты стратегического назначения, способные поражать цели в самых отдаленных уголках земли, боевые возможности войск неизмеримо выросли. Но это вызывало необходимость пересмотра и коренного изменения многих теоретических положений и практических рекомендаций, сложившихся в военном искусстве в прошлом, это требовало изменения практики боевой подготовки войск, применявшейся в первые послевоенные годы.