24 июня 1941 года Алексей Антонов был назначен начальником Штаба Киевского особого военного округа, на этой должности возглавил работу по формированию управления Южного фронта, с 27 августа — начальник штаба фронта. Под руководством Антонова был разработан план ноябрьского контрнаступления советских войск в Ростовской наступательной операции — одного из первых оперативных успехов Красной Армии в Великой Отечественной войне. В ходе этой операции войска Южного фронта совместно с Юго-Западным фронтом освободили Ростов-на-Дону и к декабрю стабилизировали фронт по линии Матвеев-Курган—Таганрог—Куйбышево. Антонов возглавлял штаб Южного фронта до 28 июля 1942 года.
В течение второй половины 1942 года Антонов служил на штабных должностях на фронтах: 28 июля — 3 сентября — начальник штаба Северо-Кавказского фронта (командующий — Маршал Советского Союза Буденный); 3 сентября — 22 ноября — начальник штаба Черноморской группы войск (образована из Северо-кавказского фронта); 22 ноября — 14 декабря 1942 года — начальник штаба войск Закавказского фронта (командующий — генерал армии Тюленев).
14 декабря 1942 года назначен начальником Оперативного управления Генштаба. На эту должность его рекомендовал Александр Василевский, тогда — Начальник Генштаба. За полгода до назначения Антонова из-за недостаточно хорошо организованной работы начальники Оперативного управления сменялись 7 раз[1]. Только при Антонове в Генштабе была введена унифицированная система опознавательных знаков на картах, что заметно ускорило работу управления. Генерал Антонов проработал на должности начальника управления 5 месяцев. Василевский очень часто выезжал в командировки на фронта, и в это время на Антонова фактически ложились обязанности начальника Генштаба одновременно с начальником Оперативного управления. Тогда, 20 мая 1943 года Антонова перевели на должность Первого заместителя начальника Генштаба.
В новой должности Антонову приходилось очень часто бывать с докладами у Сталина, часто — по два раза в день. В 1943—1945 годах только в кремлёвском кабинете Сталина Антонов бывал не менее 238 раз — больше чем кто-либо из руководящего состава Вооружённых сил СССР и больше чем все командующие всех фронтов за всё время войны вместе взятые[3]. По свидетельству ряда военачальников, в частности, Сергея Штеменко, Антонов пользовался у Сталина большим авторитетом, его мнением по вопросу проведения стратегических операций Верховный главнокомандующий интересовался почти всегда и никогда не пренебрегал[1].
С декабря 1942 года и до конца войны ни одна более или менее значительная операция Великой Отечественной войны не прошла без участия Антонова в её планировании и подготовке. Автором замыслов и планов некоторых операций был он сам. В частности, Антонов принимал участие в разработке и осуществлении следующих операций: Белорусская операция Восточно-Карпатская операция Прибалтийская операция Псковско-Островская операция Нарвская операция Львовско-Сандомирская операция Ясско-Кишинёвская операция Рогачёвско-Жлобинская операция Крымская операция Кировоградская операция Корсунь-Шевченковская операция Ровно-Луцкая операция Никопольско-Криворожская операция Проскуровско-Черновицкая операция Уманско-Ботошанская операция Березнеговато-Снигирёвская операция Одесская операция Белградская операция Дебреценская операция Восточно-Карпатская операция Висло-Одерская операция Восточно-Прусская операция Восточно-Померанская операция Венская операция Берлинская операция Пражская операция