ב-1918 הצטרף הרסימנקו לצבא האדום ובמהלך מלחמת האזרחים הרוסית הוא נלחם בצפון קווקז ובדרום רוסיה. בשנת 1920 הצטרף הרסימנקו למפלגה הקומוניסטית של ברית המועצות ובשנת 1922 סיים את קורסי המפקדים של הצבא האדום. בשנת 1927 סיימה הרסימנקו גם את בית הספר הצבאי המשותף במינסק ובשנת 1931 - את האקדמיה הצבאית מ. ב-1937 הונהג הרסימנקו למפקד חיל הרובים השמיני. בשנת 1938 היה סגן מפקד המחוז הצבאי המיוחד של קייב (ראה מחוז צבאי קייב). במהלך מלחמת העולם השנייה ביולי 1940 הונהג הרסימנקו למפקד המחוז הצבאי של וולגה. באותו זמן הוא הועלה לדרגת סגן גנרל. ב-1940 תחת פיקודו של ג'ורג' ז'וקוב השתתף בפלישה לרומניה.
כמפקד הצבא ה-5.