Rifa'iyah
Dia hidup dipengasingan sampai ajalnya menjemputnya di Ambon pada Kamis 25 Robiul Akhir 1286 H (usia 86 tahun), ada riwayat lain yang mengatakan dia wafat pada 1292 H (92 tahun, semoga yang ini benar, karena itu berarti dia panjang umur) di kampung Jawa Tondano Kabupaten Minahasa, Manado Sulawesi Utara dan dimakamkan di komplek makam pahlawan Kiai Modjo di sebuah bukit yang terletak kurang lebih 1 km dari kampung Jawa Tondano (Jaton) .
Setelah beberapa kali keluar masuk penjara Kendal dan Semarang karena dakwahnya tegas, dalam usia 30 tahun, Ahmad Rifai berangkat ke Mekkah untuk menunaikan ibadah haji, ke Madinah ziarah Makam Rosululloh SAW dan memperdalam ilmu di sana selama 8 tahun. Dan kemudian di Mesir selama 12 tahun. Di Haramain (Mekkah dan Madinah) ia berguru kepada Syaikh Abdul Aziz Al Habisyi, Syaikh Ahmad Ustman dan Syaikh Is Al -Barawi. Sedang di Mesir ia berguru pada Syaikh Ibrahim Al Bajuri dan kawan-kawan.
Ali Yafie
Sejak itu, Ali Yafie mengajar di berbagai lembaga pendidikan tinggi Islam di Jakarta, dan semakin aktif di Majelis Ulama Indonesia (MUI). Pada Muktamar NU di Semarang 1979 dan Situbondo 1984, ia terpilih kembali sehagai Rais, dan di Muktamar Krapyak 1989 sebagai wakil Rais Aam. Karena Kiai Achmad Siddiq meninggal dunia pada 1991, maka sebagai Wakil Rais Aam ia kemudian bertindak menjalankan tugas, tanggung jawab, hak dan wewenang sebagai pejabat sementara Rais Aam. Setelah terlibat konflik dengan Abdurrahman Wahid mengenai penerimaan bantuan dari Yayasan Dana Bhakti Kesejahteraan Sosial untuk NU, Ali Yafie menarik diri dari PBNU.