Teise maailmasõja puhkemisel võttis Saksa Armee Ülemkomand (OKH) üle oma sõjaaja organisatsiooni. Heusinger saatis väeteenistust ja aitas operatsioonide planeerimisel Poola, Taani
, Norra, Prantsusmaa ja Madalmaad. Ta edutati 1. augustil 1940 kolonelliks ja sai 1940. aasta oktoobris "Operationsabteilung" ülemaks, muutes ta armee planeerimise hierarhia kolmandaks, pärast peasekretäri peasekretäri kindral Franz Halderit ja peasekretäri asepeasekretäri kindral Friedrich Paulusit.