В дальнейшем во время Великой Отечественной войны занимал высокие посты на фронте. С сентября 1941 года командовал 7-й отдельной армией, которая остановила наступление финских войск на реке Свирь. С ноября 1941 года - командующий войсками 4-й отдельной армии, участвовал в Тихвинской наступательной операции. С декабря 1941 года — командующий войсками Волховского фронта. В этой должности провёл Любанскую операцию и Синявинскую операцию 1942 года. Обе операции окончились безрезультатно и сопровождались огромными потерями войск фронта. Более того, в «котле» под Мясным Бором почти полностью погибла 2-я ударная армия фронта, а её командующий генерал-лейтенант А. А. Власов сдался в плен.
После этой катастрофы Мерецков был снят с командования фронтом и в мае 1942 года назначен командующим 33-й армии на Западном фронте.
Как писал сам Мерецков, войска Волховского фронта были переданы в подчинение Ленинградского фронта для лучшей координации действий (командующий ЛФ Хозин обещал в этом случае деблокирование Ленинграда). Сам же Мерецков был направлен на Западный фронт заместителем Жукова. На командование 33-й армией пошёл позже сам, на самостоятельную командную должность. Это подтверждает хронология событий. При Мерецкове 2-я ударная армия вклинилась в глубину немецкой обороны, но имела коридор и надёжно снабжалась. 20 марта Власов (с 8 марта заместитель командующего войсками Волховского фронта) отправлен во 2-ю ударную во главе специальной комиссии. По итогам её работы прежний командующий армии 16 апреля снят с должности. 20 апреля Власов назначен новым командующим (с сохранением должности замкомфронта). 23 апреля Волховский фронт преобразован в Волховскую группа войск Ленинградского фронта, командующий М.С.Хозин (Одновременно являлся командующим войсками Ленинградского фронта). Он и не выполнил директивы Ставки от 21 мая об отводе войск 2-й ударной. 6 июня Хозина отстранили от должности и 9 июня вновь назначили Мерецкова. Был пробит коридор, через который выходили разрозненные группы бойцов. 25 июня противник ликвидировал коридор. Власов же был взят в плен (возможно, сдался сам) 11 июля.
Впрочем, уже в июне того же года он вновь был возвращен на должность командующего войсками Волховского фронта. В январе 1943 года отличился в прорыве блокады Ленинграда в ходе Операции «Искра». В январе 1944 года сыграл большую роль в победе в Ленинградско-Новгородской операции.
В феврале 1944 года Волховский фронт был упразднён, а Мерецков назначен командующим войсками Карельского фронта. Во главе его он провёл Свирско-Петрозаводскую операцию и Петсамо-Киркенесскую операцию, нанеся поражения финским и немецким войскам на Северном направлении. Великую Отечественную войну закончил на территории Норвегии. В 1944 году получил звание Маршала Советского Союза и высшие награды Норвегии. Участник Парада Победы в Москве 24 июня 1945 года.
С апреля 1945 года — командующий Приморской группой войск на Дальнем Востоке. С июля 1945 года командовал 1-м Дальневосточным фронтом, который наносил главный удар по японским войскам в Маньчжурии в ходе Советско-японской войны. По итогам войны с Японией награждён орденом «Победа».