השלים את המשפט הבא: בנו של כומר צבאי אמריקאי, גרובס חי במקומות צבאיים שונים בילדותו. בשנת 1918 הוא סיים בכיתה רביעית באקדמיה הצבאית של ארה"ב בווסט פוינט ונבחר לחיל המהנדסים של צבא ארה"ב. בשנת 1929 הוא נסע לניקרגואה כחלק משלחת כדי לערוך סקר עבור תעלת ניקרגואה הבין-אוקיאנית. בעקבות
לאחר רעידת האדמה ב-1931, גרובס השתלט על מערכת אספקת המים של מנאגואה, ועל כך הוענק לו מדליית הכבוד הנשיאותית של ניקרגואה. ב-1935 ו-1936 למד בבית הספר למפקדים ולמטה הכללי בפורט ליבנוורת', קנזס. ב-1938 ו-1939 למד במכללת המלחמה של הצבא, ולאחר מכן הועבר למטה הכללי של מחלקת המלחמה. גרובס פיתח "מוניטין כמעשה, נהג, ומקפד על חובה" וב-1940 הוא הפך לעוזר מיוחד לבנייה של קוורטמסטר גנרל, המוטל על בדיקת אתרי הבנייה ובדיקת ההתקדמות שלהם. באוגוסט 1941, הוא מונה כדי ליצור את מתחם המשרדים הענק עבור 40,000 העובדים של משרד המלחמה שבסופו של דבר יהפוך לפנטגון.