1944 sai Margelov 49. Kaardiväe diviisi komandöriks. Bereznegovatoye<unk>Snigirevka rünnaku ajal ületas diviis Dneprit 12. märtsi öösel. Järgmisel ööl ületas kiiresti edenev diviis Inhuletsi jõe ja vallutas mõne tunni jooksul Hersoni. Diviisil anti tiitli "Hersoni" ja Margelovist sai Nõukogude Liidu kangelane 19. märtsil. Margelov juhtis diviisi läbi teise Jassy<unk>Kishinevi rünnaku, Belgradi rünnaku, Budapesti rünnaku, Viini rünnaku ja Praha rünnaku. Budapestis toimunud lahingute ajal tõrjus diviis 13.-14. veebruari 1945. aasta öösel Saksa vasturünnakut. Selle tegevuse eest pälvis diviis 2. klassi Suvorovi ordeni. Moskvas 1945. aasta võiduparadis
, juhtis ta 2. Ukraina fronti esindava rügemendi pataljoni.