Однако Иоанну пришлось вскоре пережить немало треволнений из-за этого разрыва с Золотой Ордой.
В 1480 году Ахмат собрал против Москвы огромное войско, получив уведомление от Казимира Литовского о начавшейся в это время ссоре Иоанна с братьями: Андреем Большим Углицким и Борисом Волоцким.
Причиной этой ссоры было их недовольство тем обстоятельством, что Иоанн, всецело занятый своим великим делом собирания Руси вокруг Москвы, естественно стал преследовать старинное право отъезда бояр к другому князю в случае их недовольства великим князем. Один из его наместников, князь Лыко-Оболенский, так притеснял подведомственных ему жителей, что Иоанн по жалобе последних отнял у него наместничество и приказал вернуть им все, что было беззаконно забрано. Лыко обиделся и отъехал к Борису Волоцкому. Государь приказал брату выдать ему виновного боярина, но Борис отказался. Тогда Иоанн повелел схватить Лыко и отвести в оковах в Москву. Борис вознегодовал на это и послал сказать брату Андрею Углицкому: «Вот как он с нами поступает: нельзя уже никому отъехать к нам», после чего братья решили защищать свои права вооруженной рукой, для чего собрали рать в своих владениях.
В это время государь был в Новгороде; узнав о выступлении войск Андрея и Бориса в Тверскую область, он поспешил в Москву, где весть о начинающейся усобице подняла большую тревогу. Иоанн тотчас же отправил боярина к братьям уговаривать их кончить дело миром, но те не послушались, и в 20-х числах июля рать их двинулась к новгородским волостям. Тогда Иоанн вторично послал уговаривать их к примирению известного епископа Вассиана Ростовского, и последнему удалось склонить Андрея и Бориса послать своих бояр для переговоров в Москву; но сами они направились к литовскому рубежу и, остановившись в Великих Луках, стали пересылаться с Казимиром, прося помощи против старшего брата. Казимир в непосредственной помощи им войсками отказал, но дал город Витебск на прокормление их женам и вместе с тем поспешил известить Ахмата, что в Московском государстве усобица и чтобы поэтому он скорее шел на Москву.
Узнав о движении Ахмата, Иоанн быстро собрал свои войска на берегу Оки и сам отправился в Коломну. Тогда хан, видя, что река эта крепко занята, взял направление к западу, к Литовской земле, чтобы войти в московские владения, переправившись через реку Угру.
Иоанн зорко следил за его движениями и своевременно послал приказ сыну своему Ивану Молодому и младшему брату Андрею Меньшому перейти от Оки к реке Угре, так что, когда хан подошел туда, то также нашел занятыми все броды и перевозы. В Москве между тем сели в осаде: мать великого князя инокиня Марфа, митрополит Геронтий, Ростовский владыка Вассиан и наместник московский князь Иван Патрикеев, из знатных литовских выходцев, пришедших в Москву при Василии Темном. Великая же княгиня София Фоминична была послана вместе с казною на Белоозеро.
Ф. Солнцев. Царские ложки, ножи и вилки
Н. Некрасов. Иоанн III топчет ханскую басму
Иоанн Васильевич, как только узнал о наступлении Ахмата, так тотчас же, кроме выдвижения главной рати к Оке, послал приказание воеводе звенигородскому – князю Василию Ноздреватому – сесть с небольшим отрядом и с войсками крымского царевича Нордоулата на суда и спуститься вниз Волгою, чтобы разгромить беззащитную Золотую Орду, зная, что Ахмат оставил в ней только жен, детей и старцев; великий князь был уверен в том, что, как только хан узнает об этом нападении, тотчас же кинется назад защищать свои улусы.
Вместе с тем Иоанн сообщил о наступлении Ахмата своему верному союзнику Менгли-Гирею, и тот поспешил напасть на литовские владения, чтобы отвлечь Казимира от наших границ. Отдав таким образом все распоряжения для преграждения дальнейшего наступления Ахмата и для защиты Москвы, Иоанн, в ожидании действий князя Ноздреватого и царевича Нордоулата в Золотой Орде, оставил при войске князя Даниила Холмского с сыном Иваном Молодым; сам же он отправился в Москву, чтобы повидаться с матерью, а также, без сомнения, и для того, чтобы употребить все свои силы для примирения с братьями, отъехавшими к литовскому рубежу в Великие Луки. Пылкое московское население, уже привыкшее к целому ряду побед, одержанных мудростью и искусством своего великого князя, было недовольно его возвращением в столицу и настоятельно желало, чтобы он скорее вступил в большое сражение с татарами на реке Оке. Такого же взгляда держалось и духовенство.
Не успел Иоанн въехать в Кремль, где его встретил митрополит и епископ Вассиан Ростовский, как последний обратился к нему со следующим горячим словом: «Вся кровь христианская падет на тебя за то, что, выдавши христианство, бежишь прочь, бою с татарами не поставивши и не бившись с ними; зачем боишься смерти? Не бессмертный ты человек, смертный, а без року смерти нет ни человеку, ни птице, ни зверю; дай мне, старику, войска в руки и увидишь, уклоню ли я лицо свое перед татарами». Великий князь с подобающим уважением к сану и возрасту Вассиана выслушал это горячее слово, но, разумеется, не изменил своего решения, а, поселившись в Красном Селе близ Москвы, стал выжидать развития событий; при этом, без сомнения, опасаясь за излишнюю пылкость Ивана Молодого, он послал грамоту, чтобы тот немедленно ехал в Москву.
Но последний решил лучше навлечь на себя отцовский гнев, чем отъехать от войска. Видя, что сын не слушает грамоты, Иоанн приказал князю Холмскому схватить его силою и привезти в Москву. Однако Холмский не решился употребить насилие над молодым великим князем и стал его уговаривать исполнить приказание отца; но на это тот отвечал решительно: «Умру здесь, а к отцу не поеду» – и скоро одержал блестящий успех над отрядом татар, пытавшимся тайно переправиться через Угру.