Pärast Saksa sissetungi Nõukogude Liitu 1941. aastal anti Rallile tähtsad ülesanded Nõukogude vägede kaitsmisel ja evakueerimisel. Ta juhtis tagumikku Tallinna evakueerimisel.
, mille käigus evakueerimiskonvoodid kannatasid miinide tõttu suuri kaotusi. Ralli lipplaev uppus ja ta sai tõsiseid vigastusi. Pärast kuu aega haiglas taastumist oli ta piisavalt hea, et taastada juhtimine, ja aitas juhtida mereväe kaitset Leningradi piiramisel ja järgnevatel rünnakutel, kui sakslased olid tagasi lükatud. Pärast sõda naasis Rall akadeemilisse ellu ja kirjutas enne oma surma 1948. aastal mitmeid sõjalisi ja ajaloolisi tekste.