Феодат, презираемый итальянцами и готами, думал найти спасение в Равенне, но на пути был убит подосланным от Витигеса воином. Хотя Витигесу предстояла весьма трудная задача ввиду полной дезорганизации военных средств, тем не менее, теперь только началась настоящая народная война готского народа с имперскими войсками. Витигес представляет собой героический тип национального готского короля, который сознавал всю опасность тогдашнего положения и, тем не менее, старался сделать все, что внушали ему долг и сознание своих обязанностей к соотечественникам. Оставив в Риме гарнизон в 4000 человек, сам он отступил к Равенне в намерении подготовить военные операции на будущий год и укрепить собственное положение среди итальянцев и готов. Нужно признать весьма важным в политическом смысле шагом его брак на дочери королевы Амаласунфы, т. е. на внучке Феодориха, Матасунфе, ибо этим браком он сближал себя с королевским родом Амалов и получал законное право на королевскую власть. Но первым и крупным несчастьем для Витигеса было то, что он не удержал в своей власти Рима, иначе говоря, обманулся в расположениях римского населения. Епископ Рима Сильверий послал навстречу приближавшемуся Велисарию послов, обещая сдать город. Гарнизон был не в состоянии защитить Рим против внутреннего и внешнего врага, так что с 9 на 10 декабря 536 г. в одни ворота входили в Рим войска Велисария, а в другие выходил готский гарнизон. Это случилось 60 лет спустя после падения Западной Римской империи.
По ближайшим распоряжениям Велисария в зиму 536/37 г. можно было заключать, что он рассматривает Рим и Италию как составную часть империи. Считая себя обеспеченным со стороны юга, Велисарий начал приготовлять в Риме центральный пункт для будущих военных предприятий в Италии и с этой целью озаботился укреплением городских стен и подвозом съестных припасов из Сицилии и из окрестностей. Но и Витигес, с своей стороны, занят был деятельными приготовлениями к походу. Прежде всего он принял меры к тому, чтобы поставить на военное положение готский народ и снабдить способных носить оружие военным снаряжением и конями. Перед Витигесом была сложная задача: с одной стороны, предстояло выставить наблюдательный отряд на севере, чтобы не допускать враждебного вторжения имперского отряда из Далмации; с другой стороны, необходимо было озаботиться мерами, чтобы франки не воспользовались затруднительным положением готского королевства и не ворвались в Италию с северо-запада. Это тем более необходимо было иметь в виду, что император Юстиниан уже вступил в сношения с франками и желал привлечь их к союзу против готов. Витигес мог считать себя весьма счастливым, что ему удалось достигнуть соглашения с франками, которые отступили из Прованса и дали слово не принимать враждебных действий в Северной Италии. К началу весны Витигес мог располагать громадным ополчением в 150 тыс., в котором значительная часть составляла кавалерию.
Велисарию с весьма небольшими силами нельзя было выступить против неприятеля в открытое поле; его надежда заключалась в городских укреплениях и в той мысли, что Витигес едва ли в состоянии предпринять правильную осаду хорошо защищенного города. Кроме того, Велисарий, оценивая то громадное впечатление, которое произвело в Италии занятие им Рима, понимал, что он ни под каким видом не может очистить занятого им города, и поэтому распространял мысль, что он не выйдет из Рима живым и будет его защищать до последней крайности. В ожидании вспомогательных отрядов, которые должны были прийти из Константинополя, он требовал от городских жителей участия в защите городских стен и сам был везде на первом месте. Желая несколько задержать Витигсса, прежде чем он окружит Рим своим громадным войском, Велисарий выставил против него небольшой кавалерийский отряд на pons Salarius, где и произошла первая военная стычка, в которой греки и готы показывали изумительную отвагу, и Велисарий не раз подвергался крайней опасности. Готы ударили с тыла и с боков на византийский отряд, неосторожно погнавшийся за неприятелем, и прижали его к стенам города у Салариевых ворот. Уже разнесся слух, что Велисарий убит, и римляне не хотели открыть ворот, имея опасение, чтобы вместе со своими не ворвались в город и неприятели. С большим трудом удалось Велисарию восстановить порядок в своем отряде и найти защиту за стенами города, куда, наконец, при наступлении ночи впущены были греческие воины.
С конца февраля город был окружен готами, которые раскинули шесть военных лагерей и считали судьбу Рима совершенно предрешенной, т. к. им были известны слабые средства, какими располагал Велисарнй. Витигес предложил Велисарию вступить в переговоры и обещал дать свободу гарнизону, если ему будет сдан город, но Велисарий отклонил предлагаемые условия. Мы не будем следить за подробностями осады Рима, в которой преимущества техники, дисциплины и военного искусства вообще были на стороне осажденных. Пользуясь оплошностью врага, Велисарий в начале апреля ввел в Рим вспомогательный отряд из 1600 воинов славянского и гуннского происхождения, после чего он начал делать неожиданные вылазки там, где неприятель был наименее подготовлен, и наносил ему значительный урон. По словам Прокопия, всего было 69 сражений между осаждающими и осажденными. В начале лета прислано было из Константинополя жалованье войску, но вспомогательных отрядов, которых так ждали и Велисарий и население Рима, все-таки не было. А между тем в городе чувствовался недостаток в припасах и в воде, и население высказывало горячие жалобы на императора, который без нужды заставляет страдать жителей Рима. Чтобы поддержать дух населения, Велисарий распустил слух, что войска высадились в Кампании, и что помощь приближается.
Не лучше, однако, было и положение осаждающих. Сосредоточение громадного войска под Римом вызывало необходимость вполне обдуманной и правильно выполняемой системы подвоза припасов. Но Кампания была опустошена, а из Тосканы уже взяты были запасы. Велисарий вывел часть гарнизона из Рима и занял Террачину и Тибур; этим он уменьшил количество населения в Риме, нуждавшееся в прокормлении, и, кроме того, получил возможность ограничивать неприятелям свободу движения и стеснять их в подвозе съестных припасов. Между тем секретарь Велисария, историк Прокопий, которому мы обязаны главнейшими сведениями о времени Юстиниана, организовал вместе с супругой Велисария Антониной закупку хлеба в Кампании и собрал до 500 человек из местных гарнизонов, чтобы доставить в Рим заготовленные запасы. В то же время к величайшему удовольствию Велисария в Неаполь доставлен значительный военный отряд в 4800 человек, который нашел возможность добраться до Остии и соединиться с римским ослабевшим гарнизоном. Тогда Витигес понял, что продолжать осаду было бы безрассудством. В самом деле, во время осады погибло более 30 тыс. готского войска и столько же выбыло из строя по случаю ран и болезней. Витигес послал к Велисаршо уполномоченных договариваться о мире. Он обещал уступку Сицилии и даже Кампании и уплату дани. Велисарий подал мысль довести до сведения императора о предложениях готского короля, и на это время было заключено перемирие.
Описывая происходившие между готами и византийцами переговоры, Прокопий в таких выражениях передает взгляд на историческое право готского народа по отношению к Италии: «Вы тяжко оскорбили нас, ромэи, несправедливо подняв оружие на союзников и друзей. Готы не силою отняли у ромэев Италию. Когда Одоакр, свергнув императора, овладел этим государством, восточный император Зинон, желая наказать его и освободить эту страну, но находя себя бессильным, убедил Феодориха, нашего короля, который хотел уже осаждать Византию, примириться с ним и отомстить Одоакру за все его неправды, за что обещал готам спокойное владение Италией. Согласно этому условию, овладев Италией, мы сохранили законы и форму правления, как это было при древних императорах, и ни Феодорих, ни его преемники не издавали никаких новых законов. Что же касается богослужения и веры, то мы так тщательно обеспечили римлян, что до сего дня ни один итальянец ни добровольно, ни принужденно не изменил своей веры, равно и готы, переходившие в другую веру, не подвергались преследованию. Римские храмы пользовались от нас высоким почетом, ибо никто из тех, которые искали в них убежища, не подвергался насилию. Все государственные должности находились в руках римлян, готы же не принимали участия в управлении. Может ли кто сказать, что мы говорим неправду? Прибавим еще, готы позволили римлянам каждогодно иметь консула по назначению восточного императора. И что же? Вы враждуете теперь со своими защитниками! Оставьте же нас в покое и уносите с собою, что захватили вы во время войны». Велисарий ответил, что император Зинон никогда не уступал готам Италии, что она должна быть возвращена прежнему господину.
Послы просили, по крайней мере, позволить им поселиться в Сицилии, но Велисарий сделал на это весьма любопытное замечание: «Мы, пожалуй, согласны уступить готам Британию — страна большая, гораздо обширнее Сицилии: прежде она тоже была подчинена римлянам». Велисарий не хотел даже слушать о каждогодней дани, требовал только одно — безусловного очищения Италии. Сошлись, наконец, на том, чтобы заключить перемирие, пока можно будет войти в переговоры с самим императором.
В течение трех месяцев, пока шли сношения с Константинополем, Велисарий успел во многих отношениях изменить положение осажденного города. Прежде всего он нашел возможным снабдить Рим съестными припасами, затем морем доставлены были в Остию вспомогательные отряды из Африки — слоном, он воспользовался перемирием для исправления тех бедствий, какие нанесены были осадой. Между тем осаждавшее войско оставалось в самых невыгодных условиях в смысле доставки продовольствия, т. к. Велисарий командовал морем и постепенно отрезал готов от сношений с Южной и Северной Италией. Витигес заявлял неудовольствие на предприятия Велисария, но последний не обращал на это внимания и искал лишь случая заставить готов нарушить весьма для них невыгодное перемирие. Наконец весной 588 г. действительно произошло столкновение между готами и императорским отрядом на пути от Рима к Равенне, где Иоанн, племянник знаменитого Виталиана, нанес готам поражение и занял важные города Осимо и Римини. Это ставило короля Витигеса в весьма опасное положение, через несколько времени до него дошли слухи, что королева Матасунфа, находившаяся тогда в Равенне, вступила в сношения с предводителем греческого отряда. Тогда Витигес после стоянки под Римом один год и девять месяцев принужден был в марте 538 г. снять осаду и идти на север, чтобы попытаться отстоять, по крайней мере, Северную Италию, где господство готов оставалось еще довольно прочным.