Увы, в истории не сохранилась точная дата его рождения. Да и о семье известно крайне мало: мать, Евдокия, и отец, Василий Андреевич, приняли для себя путь монашества, покинули бренный мир в 1548 году.
Будущий полководец был не единственным ребенком в семье, да и к тому же не единственным Иваном – у него был младший брат. Дабы иметь хоть какое-то различие между двумя Иванами, им дали прозвища «Большой» и «Меньшой».
Первые упоминания об Иване Шереметеве появились в Никоновской летописи зимой 1540-го года, в которой описывается его служба воеводой в Муроме, где он оборонял города от Сафа-Гирея, казанского хана. Далее цитата из летописи:
«Приходил под Муром казанский царь Сафа-Гирей с многими людьми казанскими и крымскими и с ногайскими, пришел безвестно под город, стоял два дня, а людей многих пораспустил около города села воевать. А воевода был в городе князь Иван Стригин Ряполовский, а вылазил из города Иван Васильевич Шереметьев да князь Петр Иванович Деев, и воевода градский, и дети боярские муромские, которые были в городе, и люди градские против татар из города выходили и с татары билися, и с Божьим милосердием под городом из пушек и из пищалей татар побивали».
Служба Ивана и в дальнейшем стыковалась с армией. Весной 1544 года он получил придворный чин «окольничий», после похода под Казань. Через шесть лет под той же Казанью, получив ранение, удостоен боярского звания. Уже в 1551 году Шереметев пленил царевича Улан-Кощака и разбил отряд крымцев, в котором насчитывалось 5 тысяч воинов. Также в 1552 году был «дворовым воеводой» в особом полку царя. Его считали образцом военачальника.
В мае 55-го года крымское войско под предводительством Девлет-Гирея двинулось на Большую Кабарду. Царь, узнавший об этом, в помощь союзникам выдвинул Шереметева, дабы тот не допустил боевых действий с черкесами. Но вскоре выяснилось, что информация о походе на Большую Кабарду была ложная и Девлет-Гирея с войском уже шел к Ливнам. Реакция Ивана была молниеносна: отправив гонцов за помощью в Москву, Шереметев-Большой вторгся в тыл крымцев, в следствии чего вражеское войско понесло многозначительные потери в виде лошадей и верблюдов.
Из Москвы на помощь выдвинул Иван IV. Девлет-Гирея понимал, что столкновение с основными русскими силами понесло бы незамедлительное поражение для его людей, поэтому решил отступить. Но, к несчастью хана, у селения Судьбищи его встретил Шереметев со своим отрядом, преследовавший крымское войско.
Силы были неравны: на одного русского приходилось девять крымцев. Однако Шереметев, хоть и зная, что к ним должны в скором времени присоединиться Иван IV и его рать, всё же решил дать отпор трусливо сбежавшему врагу.
И так 3-го июля началось двухдневное сражение, которое позже назвали «Судьбищенская битва» в честь расположения всех действий. По словам Карамзина Н.М., русские в первый день уничтожили передовую врага, забрали знамя.
Переждав ночь, битва продолжилась с новой силой и длилась без остановки около восьми часов. Шереметева тяжело ранили на второй день, что сначала подорвало силы отряда, но затем его воеводы Стефан Сидоров и Алексей Басманов взяли командование на себя, поддерживая дух обессиленных воинов. Дальнейшее развитие событий показало, что поддержка воевод была небесполезна.
В ходе сражения из семи тысяч русских осталось две. Взяв оборонительную позицию по оврагам, они из всех оставшихся сил давали отпор крымцам.
Наступила вторая ночь изматывающего сражения, в которой русское войско узрело позорный побег крымского хана второй раз.
Отряд Шереметева присоединился к Ивану IV 6-го июля в Туле, где царь вознаградил всех выживших солдат, а Шереметеву-Большому присвоил гордое и заслуженное звание «ужас крымцев».
Ужас крымцев перед Иваном Большим был настолько силен, что Мехмед-Гирей, сын Девлет-Гирея, планировавший напасть на Русь с войском в 100 тысяч крымцев, решил отступить, узнав о том, что придется сражаться с Шереметевым.
Карьера военного после пошла на спад, Иван Шереметев подвергается ранению на Ливонской войне в 1563 году, затем получает немилость царя и в дальнейшем арест и пытки. Сломить дух опытного воина не получилось, его выпустили. В 1570-году бывший полководец принимает монашество. Упокоился Иван Васильевич в Кирилло-Белозерском монастыре (в настоящее время город Кириллова, Вологодская область). Умер этот храбрый человек 27 мая 1577 года.