כתוב המשך לפרק זה - לאחר מבצע ברברוסה, הפלישה הגרמנית לברית המועצות, החלה ב-22 ביוני 1941, ירמולקין נלחם בחזית הדרום-מערבית עם היחידה שלו. כחלק מהצבא ה-26, הדיוויזיה והגוף שלה החלו את המלחמה באזור דרוגוביץ'. במהלך קרבות הגבול ב-25 ביוני 1941, כחלק מהגוף, הדיוויזיה פתחה בתקיפה נגדית.
אזור ברודי ודובנו, ואז במאבקים עזים נסוג לכיוון פרוסקורוב וויניצ'יה. הרס"ן ירמולקין נפצע מפריצים במהלך קרבות באזור רדיווילוב ב-28 ביוני. בחודש אוגוסט במהלך קרב קייב הוא מונה למפקד גדוד הרובים 300 של הדיוויזיה המוטורזת ה -7, והוביל אותו בלחימה קשה מדרום לקייב כחלק מהצבא ה -26. ירמולקין נתפס במצור בספטמבר, אך הצליח לחזור לקווי הסובייטים באוקטובר, ולאחר מכן קיבל את פיקודו של גדוד הרובים ה-680 של דיוויזיית הרובים ה-169, העוסק בלחימה כבדה כחלק מהצבא ה-38 של החזית הדרום-מערבית באזור וולצ'נסק. החל מדצמבר הוא פיקד על גדוד הרובים ה-584 של דיוויזיית הרובים ה-199 של הצבא. ביולי 1942 הפך ירמולקין לסגן מפקד דיוויזיית הרובים 304 של הצבא במהלך מבצע ההגנה בדונבאס.