Le secrétariat général organise les activités du conseil et assure le secrétariat de l'assemblée plénière et du comité permanent. Il s'informe des suites données par les autorités compétentes aux délibérations et avis ainsi qu'aux rapports d'inspection ou à ceux concluant les missions d'études confiées au conseil.
Il assure, sous l'autorité du vice-président, la liaison avec les juridictions, les corps d'inspection ou les conseils relevant d'autres départements ministériels.
Pour assurer la gestion des moyens du conseil et mettre en oeuvre les mesures d'adaptation et de modernisation internes au conseil, il dispose du service de la modernisation et de la gestion.
Il dispose en outre d'une mission d'audit qui assure, à titre permanent, l'audit interne du conseil et conduit les missions d'audit demandées par le ministre concernant l'administration centrale, les services techniques centraux, les services déconcentrés et les organismes placés sous la tutelle du ministère.