Hardee lahkus 31. jaanuaril 1861. aastal, pärast seda, kui tema koduriik Georgia oli liidust lahkunud. 7. märtsil liitus ta Konföderatsiooni sõjaväega kolonelina ja sai komandöriks Fort Morgan ja Gaines Alabamas. Hiljem edutati ta brigadigeneralisse (17. juunil) ja generalmajoriks (7 oktoobril). 10. oktoobril 1862 oli ta üks esimesi konföderatsiooni leitnantgeneraale. Tema algne ülesanne kindraliks oli organiseerida Arkansas'i rügementide brigaad ja ta avaldas oma meestele ja kolleegidele muljet, lahendades keerulisi varustusprobleeme ja oma brigaadi põhjaliku väljaõppe eest. Ta sai oma hüüdnime "Old Reliable" (vanane usaldusväärne), kui ta oli selles komandoris. Hardee tegutses Arkansases, kuni ta kutsuti liituda kindral Albert Sidney Johnstoni Kesk-Kentucky armee korpusjuhatajana. Johnston taganes Kentuckyst ja Tennessee'st Mississippi, enne kui alustas üllatusrünnakut Shilohi lahingus.
1862. aasta kevadel. Hardee sai 6. aprillil 1862 lahingu esimesel päeval haavata. Johnston tapeti Shilohis ja Hardee korpuse liitusid kindral Braxton Bragg'i Tennessee armee enne Corinth, Mississippi piiramist, kuni osakonna komandör P.G.T. Beauregard evakueeris linna ja taandus Tupelo. Beauregard asendati Bragg'iga, kes hiljem kolis oma armee Chattanooga'sse, enne kui alustas oma Konföderatsiooni Heartlandi rünnakut Kentucky's. See kampaania lõppes Perryville'i lahingus 1862. aasta oktoobris, kus Hardee juhtis Bragg'i sõjaväe vasakut tiivut.