Suku Batak
Konflik terbesar adalah pertentangan antara masyarakat bagian utara Tapanuli dengan selatan Tapanuli, mengenai identitas Batak dan Mandailing. Bagian utara menuntut identitas Batak untuk sebagain besar penduduk Tapanuli, bahkan juga wilayah-wilayah di luarnya. Sedangkan bagian selatan menolak identitas Batak, dengan bertumpu pada unsur-unsur budaya dan sumber-sumber dari Barat. Penolakan masyarakat Mandailing yang tidak ingin disebut sebagai bagian dari etnis Batak, sempat mencuat ke permukaan dalam Kasus Syarikat Tapanuli (1919-1922), Kasus Pekuburan Sungai Mati (1922), dan Kasus Pembentukan Propinsi Tapanuli (2008-2009).
Suku Mandahiling
Umumnya marga-marga Mandailing berasal dari keturunan yang sama yaitu berasal dari Bugis/Lubis, sehingga tanah Mandailing disebut juga sebagai Tanah Bugis (Bugih) Lamo. Umumnya orang-orang Mandahiling tidak mengenal pelarangan perkawinan semarga seperti yang terjadi pada etnis Batak. Tak heran, bila marga-marga di Batak bertambah banyak karena banyaknya perkawinan semarga yang diharuskan membuat marga baru, sementara pada etnis Mandailing hanya ada kewajiban memotong korban berupa ayam, kamping, atau kerbau tergantung status sosial orang Mandailing itu pada masyarakatnya.