В сентябре 1939 года началась война, и фон Рундштедт был вновь призван в армию, чтобы возглавить группу армий «Юг» в ходе успешного захвата Польши. Награждён планками к Железным крестам (повторное награждение) и Рыцарским крестом.
Боевые действия во Франции, май-июнь 1940
Во время французской кампании 1940 Рундштедт командовал группой армий «А», сыгравшей ключевую роль в захвате Франции. В соответствии с планом Манштейна[2], танковая группа Клейста прошла по Арденнским горам и вышла к Ла-Маншу, отрезав крупную группировку англо-французских войск в Бельгии, что и определило блестящий успех всей кампании. Однако приказа об атаке окруженных у Дюнкерка войск Рундштедт не отдал, что позволило англичанам эвакуировать с пляжей более 100 тыс. солдат. Фон Рунштедт и другие впоследствии утверждали, что это решение принадлежало Гитлеру и было основано на стремлении заключить с Великобританией мирный договор.
За успех во Франции фон Рундштедт в числе группы военачальников был произведён в фельдмаршалы (19 июля 1940)[3]. Принимал участие в разработке операции «Морской лев» по вторжению на Британские острова. Затем был командующим оккупационных сил во Франции и ответственным за береговую оборону в Нидерландах, Бельгии и Франции.
Вторжение в СССР
Несмотря на то, что Рундштедт с самого начала возражал против нападения на СССР[4], ему было поручено командование группой армий «Юг». Группа насчитывала 43 немецкие дивизии (из них 5 — танковых) и 14 — румынских. Большую часть сил группы составляла немоторизованная пехота, поэтому её продвижение было не столь быстрым, как у двух других групп вермахта. Тем не менее, армиям Рундштедта сопутствовал успех: уже на румынской границе было захвачено 150 тыс. пленных, около 2 тыс. танков и 2 тыс. орудий[5].
В начале августа 1941 года в боях под Уманью им удалось окружить крупные силы Южного и Юго-Западного фронтов РККА. Было взято более 100 тыс. пленных, около 300 танков и 800 орудий[6]. В сентябре войска Рундштедта, при поддержке 2-й танковой армии Гудериана, переброшенной с московского направления, окружили под Киевом основные силы Юго-Западного фронта. В плен попало более 660 тыс. солдат и офицеров РККА, захвачено 884 танка и более 3 тыс. орудий. После этого Рундштедт повернул 1-ю танковую армию Клейста на юго-восток, в тыл частям Южного фронта, сдерживавшим продвижение 11-й армии Манштейна в районе Мелитополя. 5 октября части Клейста вышли к Азовскому морю у Бердянска, взяв таким образом в окружение 18-ю армию Южного фронта. В результате сражения у c. Черниговка, окончившегося 10 октября, части Красной Армии понесли тяжёлые потери. В плен попало около 100 тыс. человек. Командующий 18-й армией генерал-лейтенант А. К. Смирнов погиб. После этого 11-я армия смогла беспрепятственно войти в Крым и продвинулась до Севастополя, однако взять город с ходу не удалось.
К началу ноября 1941 армии группы «Юг» заняли всю территорию Украины, Донбасса и большую часть территории Крыма. Рундштедт полагал, что следует остановиться до наступления холодов. Однако Гитлер настоял на продолжении наступления.
В ноябре фон Рундштедт перенёс сердечный приступ, но отказался от госпитализации, продолжил наступление и дошёл до Ростова-на-Дону 21 ноября. Контрнаступление советских войск под Ростовым вынудило немцев отступить. Гитлер пришёл в ярость и заменил Рундштедта генералом Вальтером фон Рейхенау, который, впрочем, подтвердил приказ об оставлении Ростова.
Западный фронт
Подсудимый в Нюрнберге
В марте 1942 года Гитлер вернул фон Рундштедта на службу и вновь назначил его командующим оккупационными войсками на Западе. Там он (с опозданием) убедился, что на всём Атлантическом побережье не существовало фортификационных сооружений, достойных упоминания. Только после того, как Эрвин Роммель поступил в подчинение фон Рундштедта, начались серьёзные фортификационные работы. В ходе обсуждения незадолго до высадки фон Рундштедт настаивал, что танковые подразделения должны находиться в тылу операции так, чтобы они могли быть быстро направлены в любой сектор, где могли появиться союзники. Гейр фон Швеппенбург, командующий танковыми частями, поддерживал его. Но Роммель настаивал на том, что танки должны размещаться вдоль береговой линии, сразу за зоной доступа артиллерии флота союзников, поскольку авиация союзников не позволит им двигаться. Находясь под влиянием своего успеха в боевых действиях в Африке, Роммель полагал, что авиация союзников не позволит двигаться днём и серьёзно осложнит перемещение ночью. Также он уверял, что высадка далеко на Западе (в частности, в Нормандии) не рассматривается союзниками, и туда можно направить небольшое количество танков. Хотя Рундштедт считал высадку в Нормандии маловероятной, он чувствовал, что это безумный риск. Но Роммель мог действовать по-своему, так как авторитет Рундштедта сильно упал из-за его безынициативности с момента назначения. Танковые дивизии были рассредоточены и только две были направлены на северное побережье Франции к западу от Сены, и только одна из них — в Нормандию, что привело к катастрофическим последствиям, когда началась высадка союзников. После Нормандской операции в июне 1944 года Рундштедт торопил Гитлера начать мирные переговоры с союзниками. В ответ Гитлер заменил его 1 июля 1944 фельдмаршалом Гюнтером фон Клюге, одновременно наградив Рундштедта Дубовыми Листьями к Рыцарскому кресту.
После заговора 20 июля, который возмутил фон Рундштедта, он согласился вместе с Гудерианом и Вильгельмом Кейтелем участвовать в Армейском суде чести, в ходе которого были отправлены в отставку сотни нелояльных Гитлеру офицеров, часто по ничтожному подозрению. Это означало, что в отношении них больше не действуют законы военного времени,[источник не указан 391 день] и их дела были переданы в Народную судебную палату. Многие были казнены.
В середине августа 1944 года фон Клюге покончил с собой, а фельдмаршал Модель был освобождён от должности через 18 дней после назначения командующим Западным фронтом, и Рундштедт 5 сентября 1944 был снова назначен командующим на Западе.
Там он бысто соединил войска и одержал победу над союзниками в Голландской операции. В феврале 1945 награждён Мечами к Рыцарскому кресту с Дубовыми Листьями.
Хотя он был командующим в ходе наступления на Антверпен (которое провалилось из-за перевеса союзников в Арденнской операции), он с самого начала был против этого наступления и по существу умыл руки. Он был снова смещён с командования в марте 1945 года, когда сказал Вильгельму Кейтелю, что Гитлеру лучше заключить мир с союзниками, чем продолжать безнадёжную войну.