L'administrateur général par ses décisions, le conseil d'administration par ses délibérations, le conseil scientifique ainsi que le conseil des formations par leurs propositions, leurs avis et leurs vœux assurent l'administration du CNAM.
Le CNAM comprend des unités de formation, des unités de recherche, des unités de recherche et de formation et des services communs, dont la liste est fixée par délibération du conseil d'administration prise à la majorité prévue au premier alinéa de l'article L. 711-7 du code de l'éducation, sur proposition de l'administrateur général. Leurs missions et leurs compétences, leurs modalités d'organisation et de fonctionnement, de désignation de leurs responsables ainsi que la durée de leur mandat sont arrêtées par le conseil d'administration dans les mêmes conditions de vote et annexées au règlement intérieur.
Le CNAM comprend en outre le musée des arts et métiers, qui a pour mission de conserver et d'accroître le patrimoine national illustrant le progrès des sciences et des techniques. Il apporte son concours à la création de musées scientifiques et techniques ainsi qu'à l'activité des musées existants.