Ekri yon kontinyasyon pou paragraf sa a - Lè Lagè Sivil la te kòmanse an 1861, Smith te sèvi kòm yon aide de camp nan Illinois Gouvènè Richard Yates. Sou Desanm 26, 1861, li te nonmen kolonèl nan 45th Illinois Volontè Infanterye Régiment, ak ran an backdated nan 23 Jiyè 1861 ranplase Kolonèl la anvan ki demisyone Komisyon eta li lè rejiman an te antre nan sèvis Federal. Li te dirije rejiman li nan batay Fort Henry, Fort Donelson ak Shiloh. Sou Novanm 29, 1862 li te pwomosyon nan brigadye jeneral nan Volontè Ameriken yo. Li te kòmande yon brigad yon ti tan anvan li te pran kòmandman 8yèm Divizyon, XVI Kò. Lè Ulysses S. Grant te kòmanse kanpay final li kont Vicksburg, Smith te plase nan kòmandman nan 1st Brigad, 3yèm Divizyon, XVII Kò. Li te goumen nan batay nan Port Gibson
, Raymond, Chanpyon Hill ak nan atak yo sou Vicksburg. Nan mwa jen, 1863 nan mitan an nan syèj la nan Vicksburg, Smith te chwazi yo ranplase Jeneral Isaac F. Quinby nan kòmandman nan 7yèm Divizyon an, XVII Kò apre Quinby te vin malad ak te pran yon konje absans. Nan mwa septanm, 1863 Smith te transfere nan kòmande 2nd Divizyon, XVII Kò ak divizyon l 'te voye ak William T. Sherman ede nan sekou nan Chattanooga. Pandan batay la nan misyonè Ridge, Smith te patisipe nan atak yo kont konfederasyon an bò dwat nan Tunnel Hill.