秦朝の行政区分
紀元前221年、秦国は最後に斉国を滅ぼして、中国史上最初の統一帝国、秦朝を打ち建てた。秦朝最初の皇帝・始皇帝は丞相の李斯の建議に基づき、地方の支配を分封制による諸侯を通じての間接的統治から全国一律に単一の郡県を置いて中央集権的に支配する郡県制を導入、全国を36郡に分けた。五嶺の南、南越族を支配した領土には、南海、桂林及び象州の3郡（秦朝滅亡後に南越国となった地域）を、北に匈奴を攻めて陰山以南を切り取った地には九原郡（現在の内モンゴル包頭南西）を置いた。領土を広げるごとに、東海、常山、斉北、膠東、河内、衡山などの郡を次々に置いた。
太原市
秦始皇帝が中国を統一すると天下は三十六郡に分けられ、その内の太原郡の治所が晋陽に置かれた。漢は全国を十三州に分け、その内の并州（中原の真北を管轄する）の州府が晋陽に置かれた。これが太原の略称「并」の由来となっている。五胡十六国時代、華北にあり最大の勢力を誇った前秦が江南の東晋討伐の戦いを起こしたが逆に敗北し（淝水の戦い）、その後の混乱の最中に苻丕が晋陽で即位し、晋陽は長安も鄴も失った前秦の首都となったが、翌386年に西燕との戦いに出た苻丕は殺され前秦は隴西へと落ちのびた。続く南北朝時代、東魏と北斉は晋陽を別都としている。