행정협의조정위원회는 위원장 1명을 포함한 13명 이내의 위원으로 구성되며, 지방자치에 관한 학식과 경험이 풍부한 자 중에서 국무총리가 위촉하는 위촉직 4인과 기획재정부장관, 행정안전부장관, 국무총리실장, 법제처장이 참여하는 당연직 4인, 안건과 관련된 중앙행정기관의 장과 시·도지사 중 위원장이 지명하는 지명직 2-5인으로 선임할 수 있으며, 위원장은 국무총리가 위촉하는 위원 4인 중에서 국무총리가 위촉한다. 위원장 및 위원 임기는 2년으로서 연임이 가능하며, 보궐위원의 임기는 전임자의 잔여 임기이며, 행정안전부 지방행정국장이 간사 역할을 수행한다.
행정협의조정위원회 실무위원회는 위원장 1명을 포함한 9명 이내의 실무위원으로 구성되며 위원장은 국무총리실장이, 위원은 기획재정부·행정안전부 차관, 법제처 차장, 안건과 관련된 중앙행정기관의 차관 및 지방자치단체의 행정부시장·부시장이 맡는다. 간사는 행정안전부 소속 2급부터 5급까지의 공무원 중에서 실무위원장이 지명한다.