Kodusõja alguses juhtis Mansfield Washingtoni departemangu (27. aprill - 17. august 1861) ja 6. mail 1861 edutati ta brigadiergeneraali. Kindral-ülem Winfield Scott soovitas Mansfieldi vabatahtlike armee juhtimiseks Washingtonis sel kevadel, kuid selle asemel läks juhtimine Irvin McDowellile. Mansfieldi ei peetud parimaks valikuks, kuna ta oli suhteliselt eakas vanus ja skeptitsism vabatahtlike vägede suhtes ning administratsiooni survet kiireks sõiduks Richmondisse, mis lõpetaks sõja mõne kuu jooksul, ja tal puudus ka poliitiline sponsor Washingtonis. Pärast liitlaste alistamist Bull Runi lahingus sai George McClellan'i juhiks Ida-teatri sõjategevus ja Mansfieldi lootused sõjaväe juhtimisele olid jälle katki. McClellan ei pakkunud talle ka juhtimist uuele Potomaci armeele. Mansfield asus Põhja-Carolina Hatteras Inlet'is.
, oktoobris, järgides Benjamin Butleri augustis seal läbi viidud lahingut. Ta oli 1862. aasta märtsist kuni juunini Virginia departemangu brigaadikomandör. Tema ainus lahingutegevus sel perioodil oli rannikupatareide tulistamine Hampton Roadsist raudse "CSS Virginia" vastu mereväe lahingus "USS Monitori" vastu 9. märtsil 1862. Kuni 1862. aasta sügiseni juhtis Mansfield Suffolki piirkonnas Virginia departemangu VII korpuse Suffolki diviisi.