L'Autorité de régulation des activités ferroviaires comprend un collège et une commission des sanctions chargée de prononcer les sanctions prévues aux articles L. 2135-7 et L. 2135-8. Le collège est composé de sept membres nommés par décret en raison de leurs compétences économiques, juridiques ou techniques dans le domaine ferroviaire, ou pour leur expertise en matière de concurrence, notamment dans le domaine des industries de réseau. Leur mandat est de six ans non renouvelable.
A l'exception des décisions relatives aux sanctions, les attributions confiées à l'Autorité de régulation des activités ferroviaires sont exercées par le collège.