Sündinud aristokraatliku Preisimaa perekonnaga, kellel on pikk sõjaväeteenistuse ajalugu, liitus Choltitz noorelt sõjaväega ja teenis Esimese maailmasõja ajal Lääne-Frontil (1914-1918). Ta tõusis sõja lõpuks leitnandi auastmele ja oli sõjavaheajal aktiivne Saksamaa relvajõudude taastamisel. 1939. aasta septembris, Poola sissetungi ajal Teise maailmasõja alguses, teenis ta Gerd von Rundstedti armee rühmas Lõuna. 1940. aasta mais osales Choltitz Rotterdami lahingus.
, tehes õhust maandumine ja vallutades mõned linna võtme sillad.