Le secrétariat général du Conseil supérieur de la fonction militaire, dont les effectifs et les moyens sont fixés par le ministre de la défense, est dirigé par un membre du corps militaire du contrôle général des armées portant le titre de secrétaire général. Nommé par le ministre de la défense, il est rattaché au cabinet de ce dernier.
Le secrétariat permanent de chacun des conseils de la fonction militaire, dont les effectifs et les moyens sont fixés par le vice-président du conseil, est dirigé par un officier supérieur portant le titre de secrétaire général. Il est désigné par le ministre de la défense sur proposition du vice-président du conseil, auquel il est directement subordonné, et pour le secrétaire général du conseil de la fonction militaire de la gendarmerie sur proposition du ministre de l'intérieur.