Chanzy sündis Prantsusmaal Ardenne departemangu Nouartis, oli ratsaväeohvitseri poeg. Ta õppis mereväe koolis Brestis, kuid astus suurtükiväega. Seejärel käis ta Saint Cyr'i sõjaväeakadeemias ja sai 1843. aastal "Zouaves" ametisse. Ta osales paljudes Alžeeria lahingutes ja sai 1848. aastal leitnandiks ja 1851. aastal kapteniks. Aastal 1856 sai ta "batailljoni ülem" ja teenis Teises Itaalia iseseisvus sõjas, olles kohal Magenta lahingutes.
ja Solferino. Ta osales 1860-61 Süüria kampaanias kolonellileitnanti ametikohal ja juhtis 1864. aastal Rooma 45. rügementi. Ta naasis Alžeeriasse brigadegeneraalina, aitas peatada araablaste ülestõusu ja juhtis 1868. aastal Bel Abbes'i ja Tlemcheni allüksusi.