Au sein des armées et de la gendarmerie nationale, les chefs de musique instruisent et dirigent les grandes formations musicales, dont la liste est fixée par arrêté du ministre de la défense, et les formations musicales des armées et de la gendarmerie nationale. Ils sont affectés dans les unités dont font partie ces formations.
 Ils peuvent être appelés à participer, en raison de leur compétence, au fonctionnement d'autres services relevant d'une formation interarmées, d'une autre armée ou de tout organisme mentionné au 2° de l'article L. 4138-2 du code de la défense.