1863. aastal määrati Elder'i patarei Ameerika Ühendriikide hobuste artilleribrigadile, kus ta teenis enamiku sõja lõpuni. Ta teenis püsivat edutamist kapteniks 1. augustil 1863. 1864. aasta veebruaris lühiajal eraldati Elderit Olustee lahingus Floridas ja talle anti brevet majoriks. Tagasi hobuste suurtükiväe juurde, kutsuti ta uuesti üles tegutsema Drewry's Bluffis.
5. mail 1864 sai ta kolonellileitnantiks. Ta jäi sõja järel sõjaväkke ja edutati 30. juunil 1882 USA 2. suurtükiväe majoriks.