ב-22 בפברואר 1942, עם סיום לימודיו בקולג' הצבאי המלכותי, הוזמן שרמה לחטיבה השמינית, גדוד הידראבאד ה-19, של צבא הודו הבריטי (שהפכה מאוחר יותר לחטיבה הרביעית של צבא הודו, גדוד קומאון). במהלך מלחמת העולם השנייה, הוא ראה פעולה נגד היפנים בבורמה במהלך מסע ארקאן
אני לא יודע. באותה תקופה הוא שירת תחת פיקודו של קולונל ק.ס. טיממייה, אשר מאוחר יותר עלה לדרגת גנרל והפך לראש הצבא מ-1957 עד 1961. שרמה הוזכר במברקים על פעולותיו במהלך הלחימה במערכה של ארקאן.