Au sein des armées, les sous-chefs de musique participent, sous l'autorité des chefs de musique, à l'encadrement et à l'instruction des grandes formations musicales, dont la liste est fixée par arrêté du ministre de la défense, et des formations musicales des armées. Ils sont affectés dans les unités dont font partie ces formations.
Ils peuvent être appelés à participer, en raison de leur compétence, au fonctionnement d'autres services relevant d'une formation interarmées, d'une autre armée ou de tout organisme mentionné à l'article R. 4138-30-1 du code de la défense.

Les sous-chefs de musique constituent un corps de sous-officiers de carrière dont la hiérarchie comporte, par correspondance aux grades de la hiérarchie militaire générale, les grades mentionnés dans le tableau suivant :

| CORPS DES SOUS-CHEFS DE MUSIQUE |GRADES DE LA HIÉRARCHIE MILITAIRE GÉNÉRALE| |----------------------------------|------------------------------------------| |Sous-chef de musique de 2e classe | Adjudant ou premier maître | |Sous-chef de musique de 1re classe| Adjudant-chef ou maître principal | | Major sous-chef de musique | Major |

Les nominations et promotionsdans ces grades sont prononcées par décision du ministre de la défense.

Les sous-chefs de musique ont accès aux échelons des grades de sous-chef de musique de 2e classe, de sous-chef de musique de 1re classe et de major sous-chef de musique dans les conditions définies par les articles 8 et 10 du décret n° 2008-953 du 12 septembre 2008 susvisé portant statut particulier des corps des sous-officiers et officiers mariniers de carrière des armées et du soutien technique et administratif de la gendarmerie nationale.
Ils sont, en raison de leur qualification professionnelle, classés à l'échelle de solde n° 4 prévue par ce même décret.

Il n'est plus procédé, à compter du 1er janvier 2009, au recrutement dans le corps des sous-chefs de musique ni à l'admission dans ce corps par application de l'article L. 4133-1 du code de la défense.