עם פרוץ המלחמה הפכה הארמייה השנייה לקבוצת ארמיות צפון, ופון זלמות השתתף עימה במערכה בפולין. ב-12 באוקטובר 1939 שונה שמה של קבוצת הארמיות לקבוצת ארמיות B, ופון זלמות השתתף עימה במערכה על צרפת. ב-19 ביולי 1940 קיבל פון זלמות את עיטור צלב האבירים של צלב הברזל, וב-1 באוגוסט 1940 הועלה לדרגת גנרל חיל הרגלים. ב-10 במאי 1941 מונה פון זלמות למפקד הקורפוס ה-30, ופיקד עליו במהלך מבצע ברברוסה, כחלק מהארמייה ה-11 במסגרת קבוצת ארמיות דרום. וב-27 בדצמבר 1941 פרש פון זלמות מתפקידו, והועבר לעתודת המילואים. ב-20 באפריל 1942 מונה פון זלמות למפקד הארמייה ה-17, שהייתה חלק מקבוצת ארמיות דרום. ב-6 ביוני 1942 מונה למפקד הארמייה הרביעית, וב-15 ביולי מונה למפקד הארמייה השנייה. ב-1 בינואר 1943 הועלה לדרגת גנרל אוברסט, וב-3 בפברואר פרש מתפקידו, והועבר שוב לעתודת המילואים. ב-1 ביוני 1943 מונה שוב למפקד הארמייה הרביעית, ופיקד עליה עד ה-31 ביולי 1943. ב-1 באוגוסט 1943 מונה למפקד הארמייה ה-15, שהייתה חלק מקבוצת ארמיות D, והחל מינואר 1944 חלק מקבוצת ארמיות B. לאחר התמוטטות הכוחות הגרמניים בחזית המערבית, הודח פון זלמות מתפקידו ב-25 באוגוסט 1944 על ידי היטלר, ולא חזר למלא תפקיד פיקודי עד סוף המלחמה.
מתי הודח פון זלמות מתפקידו?
 ב-25 באוגוסט 1944