Впервые великий князь вступил в конфликт с церковными властями в 1478 году, когда настоятель Кирилло-Белозерского монастыря Нифонт решил перейти от ростовского епископа Вассиана в прямое подчинение к удельному князю Михаилу Верейскому. При этом митрополит Геронтий поддержал настоятеля, а великий князь — епископа Вассиана; под давлением митрополит уступил. В том же году, покорив Новгород, великий князь провёл широкие конфискации земель богатейшей новгородской епархии. В 1479 году конфликт вновь обострился; поводом стала процедура освящения митрополитом Геронтием новопостроенного Успенского собора в Кремле[58]. Вплоть до решения спора митрополиту было запрещено освящать храмы[59]. Однако вскоре великому князю стало не до богословских тонкостей: в 1480 году на Русь двинулся хан Большой Орды Ахмат, Иван III был занят обороной страны, и спор пришлось отложить до 1482 года. К этому времени вопрос встал весьма остро ещё и потому, что из-за великокняжеского запрета многие новопостроенные церкви оставались неосвящёнными. Потеряв терпение, митрополит, оставив кафедру, уехал в Симонов монастырь, и лишь поездка к нему самого Ивана III с извинениями позволила временно погасить конфликт.
1483—1484 годы ознаменовались новой попыткой великого князя подчинить себе строптивого Геронтия. В ноябре 1483 года митрополит, сославшись на болезнь, вновь отбыл в Симонов монастырь. Однако на сей раз Иван III не поехал к Геронтию, а попытался сместить его, силой задержав при монастыре. Лишь через несколько месяцев митрополит вернулся на престол.
Тем временем в русской церкви зародились и получили некоторое распространение два течения, по-разному относившиеся к вопросу о церковной собственности. Последователи Нила Сорского, получившие наименование «нестяжателей», выступали за добровольный отказ церкви от богатств и переход к более бедной и аскетичной жизни. Их оппоненты, получившие наименование «иосифлян» («осифлян», по имени Иосифа Волоцкого), напротив, отстаивали право церкви на богатство (в частности, на земли). Вместе с тем, иосифляне выступали за соблюдение монастырских уставов, бедность и трудолюбие каждого монаха в отдельности.
В 1484 году Иван III назначил новгородским епископом своего давнего сторонника Геннадия Гонзова. Вскоре новоназначенный епископ забил тревогу: по его мнению, в Новгороде появилась и широко распространилась ересь (получившая в исторической литературе название «ересь жидовствующих»). Геннадий начал активную борьбу против неё, привлекая даже опыт католической инквизиции[60], однако здесь он натолкнулся на непредвиденные обстоятельства: некоторые из предполагаемых еретиков пользовались покровительством великого князя. Так, в частности, немалым влиянием на государственные дела обладал Фёдор Курицын; места священников в Успенском и Архангельском соборах занимали ещё двое еретиков — Денис и Алексей; с еретиками была связана жена наследника престола Ивана Ивановича — Елена Волошанка[61]. Попытки Геннадия на основании показаний арестованных в Новгороде еретиков добиться ареста московских сторонников ереси не дали результата; Иван III не склонен был придавать делу о ереси большого значения. Тем не менее, Геннадию удалось привлечь на свою сторону ряд церковных иерархов; помимо прочих, его активно поддержал Иосиф Волоцкий.
В мае 1489 года умер митрополит Геронтий. Старшим иерархом церкви стал архиепископ Геннадий, что сразу усилило позиции сторонников искоренения ереси. К тому же, 7 марта 1490 года умер наследник престола княжич Иван Иванович, женой которого была покровительница еретиков Елена Стефановна, в результате чего выросло влияние приверженцев ревнительницы ортодоксального православия Софьи Палеолог и княжича Василия. Тем не менее, 26 сентября 1490 года новым митрополитом стал недруг архиепископа Геннадия, Зосима (Иосиф Волоцкий, не стесняясь сильных выражений, упрекал Зосиму в ереси[62]), а 17 октября был собран церковный собор.
Результатом собора стало осуждение ереси. Ряд видных еретиков был арестован; некоторые попали в заключение (их содержали в очень суровых условиях, ставших для многих смертельными), некоторые были выданы Геннадию, и показательно провезены по Новгороду. Одна из новгородских летописей упоминает и более жестокие расправы: сожжения еретиков «на Духовском поле». Вместе с тем, некоторые сторонники ереси не были арестованы: так, не понёс наказания Фёдор Курицын.
Собор 1490 года не привёл к полному уничтожению ереси, однако серьёзно ослабил позиции её сторонников. В последующие годы противники еретиков вели значительную просветительскую работу: так, между 1492 и 1504 годом было закончено «Сказание о новоявившейся ереси новгородских еретиков» Иосифа Волоцкого. В определённой мере это оживление церковной мысли было связано с наступлением 7000 года «от сотворения мира» (1492 год от Рождества Христова) и широким распространением ожидания конца света. Известно, что подобные настроения вызывали насмешки сторонников ереси, что привело, в свою очередь, к появлению разъяснительных сочинений деятелей церкви. Так, митрополитом Зосимой было написано «Изложение пасхалии» с расчётами церковных праздников на 20 лет вперёд[63]. Ещё одним видом такой работы стал перевод дьяком Дмитрием Герасимовым на русский язык ряда католических антииудейских трактатов. Помимо антиеретических идей получили широкую известность, в частности, и мысли о недопустимости конфискации земель церкви: так, около 1497 года в Новгороде по поручению архиепископа Геннадия католическим монахом-доминиканцем Вениамином на эту тему был составлен трактат. Необходимо отметить, что появление такого сочинения в Новгороде диктовалось прежде всего новгородской реальностью — конфискациями великим князем архиепископских земель.
В августе-начале сентября 1503 года был созван новый церковный собор. В его ходе были приняты важные решения, значительно менявшие повседневную церковную практику: в частности, были полностью отменены пошлины за поставление на церковные должности. Это решение, видимо, нашло поддержку среди нестяжателей. Кроме того, подобная практика неоднократно подвергалась критике со стороны еретиков. Тем не менее, был принят также ряд мер, предложенных и активно поддерживавшихся иосифлянами. После подписания соборного приговора (Иван III скрепил его собственной печатью, что подчёркивало важность нововведений) собор шёл к своему логическому завершению; из столицы даже успел уехать вызванный неотложными делами Иосиф Волоцкий. Однако неожиданно Нилом Сорским на обсуждение был поставлен вопрос о том, достойно ли монастырям владеть вотчинами. В ходе разгоревшейся дискуссии нестяжателям и иосифлянам не удалось прийти к единому мнению. В конечном итоге, попытка нестяжателей убедить иерархов церкви в своей правоте провалилась, несмотря на явную симпатию великого князя идее секуляризации земель.
Собор 1503 года, занятый прежде всего внутрицерковными проблемами, не решил окончательно вопрос о ереси; вместе с тем, к этому времени положение еретиков на княжеском дворе было как никогда шатким. После ареста в 1502 году их покровительницы Елены Волошанки и провозглашения Василия Ивановича, сына поборницы православия Софьи Палеолог, наследником, сторонники ереси в значительной степени утратили влияние при дворе. Более того, и сам Иван наконец прислушался к мнению духовенства; Иосиф Волоцкий в дошедшем до нас послании к духовнику Ивана III упоминает даже о покаянии великого князя и обещании наказать еретиков. В 1504 году в Москве был созван новый церковный собор, осудивший видных деятелей ереси на смерть. 27 декабря 1504 года в Москве были сожжены главные еретики; казни прошли также в Новгороде. Столь жестокая расправа вызвала неоднозначную реакцию, в том числе и среди духовенства; Иосиф Волоцкий был вынужден выступить со специальным посланием, подчёркивавшим законность произошедших казней.
Первой женой великого князя Ивана стала Мария Борисовна, дочь тверского князя Бориса Александровича. 15 февраля 1458 года в семье великого князя родился сын Иван. Великая княгиня, обладавшая кротким характером, умерла 22 апреля 1467 года, не достигнув и тридцатилетнего возраста. По слухам, появившимся в столице, Мария Борисовна была отравлена[64]; дьяк Алексей Полуектов, чья жена Наталья, опять же по слухам, была как-то замешана в истории с отравлением и обращалась к ворожеям, попал в опалу. Великая княгиня была похоронена в Кремле, в Вознесенском женском монастыре. Иван, находившийся в это время в Коломне, на похороны жены не приехал.
Через два года после смерти своей первой супруги великий князь решил жениться вновь. После совещания со своей матерью, а также с боярами и митрополитом он решил дать согласие на недавно полученное от Папы Римского предложение вступить в брак с византийской царевной Софьей (Зоей), племянницей последнего императора Византии, Константина XI, погибшего в 1453 году при взятии Константинополя турками. Отец Софьи, Фома Палеолог, последний правитель Морейского деспотата, бежал от наступающих турок в Италию вместе со своей семьёй; его дети пользовались папским покровительством. Переговоры, продолжавшиеся в течение трёх лет, закончились, в конечном итоге, приездом Софьи. 12 ноября 1472 года великий князь обвенчался с ней в кремлёвском Успенском соборе. Стоит отметить, что попытки папского двора воздействовать через Софью на Ивана, и убедить его в необходимости признать унию, полностью провалились.