В Великую Отечественную войну генерал-лейтенант И. С. Конев вступил в должность командующего 19-й армией, спешно сформированной из войск Северо-Кавказского военного округа. Армия первоначально была направлена на Юго-Западный фронт, но уже в начале июля из-за катастрофического развития обстановки на западном направлении переброшена на Западный фронт. В ходе Смоленского сражения войска армии понесли большие потери, но избежали разгрома и упорно оборонялись. Действия Конева на посту командующего армией было высоко оценены И. В. Сталиным в начале сентября 1941 года Конев был назначен командующим войсками Западного фронта, тогда же ему было присвоено звание генерал-полковника.
Командовал войсками Западного фронта чуть более месяца (сентябрь — октябрь 1941 г.), за это время фронт под его командованием потерпел одно из тяжелейших поражений за всю войну в Вяземской катастрофе. Потери войск фронта составили по разным оценкам от 400 000 до 700 000 человек погибшими и попавшими в плен. Для расследования причин катастрофы фронта и наказания Конева прибыла комиссия Государственного Комитета Обороны во главе с В. М. Молотовым и К. Е. Ворошиловым. От суда и расстрела Конева спас Г. К. Жуков, предложивший оставить его заместителем командующего фронтом, а через несколько дней рекомендовавший Конева на должность командующего Калининским фронтом. Этим фронтом Конев командовал с октября 1941 по август 1942 года, участвовал в битве за Москву, провел Калининскую оборонительную операцию и Калининскую наступательную операцию. С января 1942 года имя Конева тесно связано с тяжелейшей и малоудачной для советских войск Ржевской битвой, его войска участвовали в Ржевско-Вяземской операции 1942 года, потерпели новое поражение в Холм-Жирковской оборонительной операции. С августа 1942 года по февраль 1943 года Конев снова командовал Западным фронтом и совместно с Г. К. Жуковым провёл Первую Ржевско-Сычёвскую операцию и операцию «Марс», в которых войска его фронта при огромных потерях добились лишь незначительного продвижения в несколько десятков километров. В феврале 1943 года также неудачно была проведена Жиздринская операция, после чего в начале марта Конев был снят с поста командующего Западным фронтом и назначен командовать гораздо менее важным Северо-Западным фронтом. Однако и там ему не удалось отличиться, войска этого фронта понесли тяжелые потери и не добились успеха в Старорусской операции. ПРИКАЗ СТАВКИ ВГК № 0045
О СМЕНЕ КОМАНДУЮЩЕГО ВОЙСКАМИ И НАЧАЛЬНИКА ШТАБА ЗАПАДНОГО ФРОНТА 27 февраля 1943 г. 1. Освободить от должности командующего войсками Западного фронта генерал-полковника Конева И. С, как не справившегося с задачами руководства фронтом, направив его в распоряжение Ставки Верховного Главнокомандования. 2. Назначить командующим войсками Западного фронта генерал-полковника Соколовского В. Д., освободив его от должности начальника штаба фронта. 3. Прием и сдачу дел фронта закончить к 02.00 28 февраля 1943 г., после чего тов. Соколовскому вступить в командование войсками фронта. 4. Назначить начальником штаба Западного фронта генерал-лейтенанта Покровского А. П., освободив его от должности начальника оперативного отдела [штаба] того же фронта. Ставка Верховного Главнокомандования И. СТАЛИН ЦАМО. Ф. 148а. Оп. 3763. Д. 142. Л. 36. Подлинник. В июле 1943 года Конев назначен командующим войсками Степного фронта, во главе которого сумел добиться успехов в Курской битве, в Белгородско-Харьковской операции и в битве за Днепр. В августе 1943 года войска Степного фронта Конева освободили Белгород и Харьков, в сентябре 1943 года - Полтаву, в октябре - Кременчуг, действуя в ходе Полтавско-Кременчугской операции. В конце сентября 1943 года его армии с ходу форсировали Днепр. В октябре 1943 года Степной фронт был переименован в 2-й Украинский фронт, Конев остался его командующим и в октябре - декабре 1943 года провёл Пятихатскую и Знаменскую операцию, а в январе 1944 года - Кировоградскую операцию. Грандиозным успехом Конева как полководца стала Корсунь-Шевченковская операция, где впервые после Сталинграда была окружена и разгромлена крупная вражеская группировка. За умелую организацию и отличное руководство войсками в этой операции 20 февраля 1944 года Коневу было присвоено воинское звание Маршала Советского Союза. В марте - апреле 1944 года он провёл одно из самых успешных наступлений советских войск - Уманско-Ботошанскую операцию, в которой за месяц боев его войска по распутице и бездорожью прошли на запад свыше 300 километров и 26 марта 1944 года первыми в Красной Армии перешли государственную границу, вступив на территорию Румынии. С мая 1944 года и до конца войны командовал 1-м Украинским фронтом. В июле - августе 1944 года под его командованием войска фронта разгромили группу армий «Северная Украина» генерал-полковника Йозефа Гарпе в Львовско-Сандомирской операции, захватили и в последующих двухмесячных боях удержали Сандомирский плацдарм, ставший одним из трамплинов для удара по гитлеровской Германии. Также часть сил фронта приняла участие в Восточно-Карпатской операции.
Звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда» Ивану Степановичу Коневу присвоено 29 июля 1944 года за умелое руководство войсками фронтов в крупных операциях, в которых были разгромлены сильные группировки противника, личное мужество и героизм.
В январе 1945 года войска фронта в результате стремительного удара и обходного маневра в Висло-Одерской операции помешали отступавшему противнику разрушить промышленность Силезии, имевшую большое экономическое значение для дружественной Польши. В феврале 1945 года войска Конева провели Нижне-Силезскую операцию, в марте - Верхне-Силезскую операцию, добившись в обоих существенных результатов. Блестяще действовали его армии в Берлинской операции и в Пражской операции.
Второй медалью «Золотая Звезда» маршал Конев И. С. награждён 1 июня 1945 года за образцовое руководство войсками в завершающих операциях Великой Отечественной войны.
