С начала войны командовал 10-й армией. За Польскую кампанию награждён Рыцарским крестом, произведён в генерал-полковники.
С октября 1939 года — командующий 6-й армией. В Западной кампании армия Рейхенау заняла Бельгию, в июле 1940 он был произведён в генерал-фельдмаршалы.
С июня 1941 — кампания против СССР — Киев, Харьков, Белгород. 10 октября 1941 издает печально известный приказ «О поведении войск в восточном пространстве» 1 декабря 1941 Рейхенау назначен командующим группой армий «Юг» вместо фон Рунштедта. 15 января 1942 у Рейхенау произошло кровоизлияние в мозг, и 17 января он умер от остановки сердца и/или от полученной им черепно-мозговой травмы во время авиаперелёта из Полтавы в Германию.