Suku Batak
Konflik terbesar adalah pertentangan antara masyarakat bagian utara Tapanuli dengan selatan Tapanuli, mengenai identitas Batak dan Mandailing. Bagian utara menuntut identitas Batak untuk sebagain besar penduduk Tapanuli, bahkan juga wilayah-wilayah di luarnya. Sedangkan bagian selatan menolak identitas Batak, dengan bertumpu pada unsur-unsur budaya dan sumber-sumber dari Barat. Penolakan masyarakat Mandailing yang tidak ingin disebut sebagai bagian dari etnis Batak, sempat mencuat ke permukaan dalam Kasus Syarikat Tapanuli (1919-1922), Kasus Pekuburan Sungai Mati (1922), dan Kasus Pembentukan Propinsi Tapanuli (2008-2009).
Suku Mandahiling
Etnis Mandahiling yang seringpula didialekkan Mandailing, adalah 'suku bangsa' (orang Mandailing menyebutnya Bangso Mandailing) yang mendiami 3 Provinsi di Pulau Sumatera, yaitu Provinsi Sumatera Utara, Provinsi Sumatera Barat dan Provinsi Riau di Indonesia. Orang Mandailing di Provinsi Sumatera Utara berada di Kabupaten Mandailing Natal, Kabupaten Padang Lawas, Kabupaten Padang Lawas Utara, Kabupaten Tapanuli Selatan, Kabupaten Labuhanbatu, Kabupaten Labuhanbatu Utara, Kabupaten Labuhanbatu Selatan, Kabupaten Asahan dan Kabupaten Batubara sedangkan di Provinsi Sumatera Barat berada pada Kabupaten Pasaman dan Kabupaten Pasaman Barat, dan di [[Provinsi Riau}} berada di [[Kabupaten Rokan Hulu]]. Pada awal masa penjajahan Belanda, kesemua wilayah Mandailing awalnya masuk dalam [[Karesidenan Mandahiling]] atau [[Residentee Mandahiling]] di bawah [[Sumatra's West Kust Gouvernement]] atau [[Gubernuran Pesisir Barat Sumatera]], bersama-sama [[Karesidenan Padang Laut]] (Padang Lauik) dan [[Karesidenan Padang Darat]] (Padang Darek).