Partai Masyumi
Nahdlatul Ulama (NU) adalah salah satu organisasi massa Islam yang sangat berperan dalam pembentukan Masyumi. Tokoh NU, KH Hasyim Asy'arie, terpilih sebagai pimpinan tertinggi Masyumi pada saat itu. Tokoh-tokoh NU lainnya banyak yang duduk dalam kepengurusan Masyumi dan karenanya keterlibatan NU dalam masalah politik menjadi sulit dihindari. Nahdlatul Ulama kemudian ke luar dari Masyumi melalui surat keputusan Pengurus Besar Nahdlatul Ulama (PBNU) pada tanggal 5 April 1952 akibat adanya pergesekan politik di antara kaum intelektual Masyumi yang ingin melokalisasi para kiai NU pada persoalan agama saja. Hubungan antara Muhammadiyah dengan Masyumi pun mengalami pasang-surut secara politis dan sempat merenggang pada Pemilu 1955. Muhammadiyah pun melepaskan keanggotaan istimewanya pada Masyumi menjelang pembubaran Masyumi pada tahun 1960.
Musthafa Husein al-Mandili
Pada tahun 1940, diadakan kongres pertama di Purba Baru yang di hadiri 62 Cabang, dan diambil keputusan Pengurus Besar dipindahdakan dari Purba baru ke Padangsidimpuan. Organisasi ""Al-Ittihadidul al-Islamiyyah (AII)"" inilah yang menjadi dasar berdirinya Nahdlatul Ulama Sumatera Utara di Padangsidimpuan pada tahun 1947 . Dalam perkembangannya ketika NU didirikan oleh tokoh-tokoh Musthafawiyah, al-Ittihadiyah digabungkan ke dalam NU .
Dalam rencana revolusi pada zaman Jepang, Syekh Musthafa Husein diangkat menjadi anggota "Tapanuli Syu Syangi Ko Kai" dan "Kookai" .