Suku Batak
Konflik terbesar adalah pertentangan antara masyarakat bagian utara Tapanuli dengan selatan Tapanuli, mengenai identitas Batak dan Mandailing. Bagian utara menuntut identitas Batak untuk sebagain besar penduduk Tapanuli, bahkan juga wilayah-wilayah di luarnya. Sedangkan bagian selatan menolak identitas Batak, dengan bertumpu pada unsur-unsur budaya dan sumber-sumber dari Barat. Penolakan masyarakat Mandailing yang tidak ingin disebut sebagai bagian dari etnis Batak, sempat mencuat ke permukaan dalam Kasus Syarikat Tapanuli (1919-1922), Kasus Pekuburan Sungai Mati (1922), dan Kasus Pembentukan Propinsi Tapanuli (2008-2009).
Suku Mandahiling
[[Mandailing]] atau [[Mandahiling]] diperkirakan berasal dari 2 kata dari bahasa Sanskerta, yaitu kata [[Mandala]] dan [[Holing]]. Mandala berarti pusat dari federasi beberapa kerajaan, sedangkan [[Holing]]/[[Hiling]]/[[Kalingga]] berasal dari nama [[Kerajaan Kalinga]]. [[Kerajaan Kalingga]] diperkirakan berdiri sebelum digantikan [[Kerajaan Sriwijaya]] pada abad ke-7 dengan raja terakhirnya [[Sri Paduka Maharaja Indrawarman]] putra dari [[Ratu Shima]]. [[Sri Maharaja Indrawarman]] juga merupakan saudara kandung dari [[Raja Sanjaya]] yang membentuk [[Mataram Hindu]] di [[Pulau Jawa]], setelah menikahi [[Ratu Galuh]], yang di kemudian hari disebut juga sebagai [[Kerajaan Medang]] (yang raja-rajanya bergantian antara keturunan [[Syailendra]] dan [[Sanjaya]] yang diikat dalam tali perkawinan antar keturunan keduanya, untuk mengakhiri peperangan antar dua wangsa keturunan [[Wijaya]] itu, yaitu [[Wangsa Sanjaya]] dan [[Wangsa Syailendra]]).