Le Haut Conseil comprend des départements chargés, sous la responsabilité du président, de mettre en œuvre une ou plusieurs des missions énoncées à l'article L. 114-3-1 du code de la recherche. Un département, dénommé « Office Français de l'Intégrité Scientifique (OFIS) », met en œuvre les missions mentionnées aux quatrième et dix-septième alinéas du même article. Il est doté d'un conseil d'orientation.
La liste des autres départements, qui peuvent être dotés d'un conseil d'orientation, est fixée par le règlement intérieur.
Le responsable de chaque département peut être nommé pour une durée de quatre années, renouvelable une fois.