Rinto Harahap
Saat itu sekitar tahun 1977 untuk kedua kalinya saat keyboardist dan vokalis utama The Mercy’s telah menyatakan mundur dari The Mercy's. Ketiga anggota The Mercy’s yang tersisa : Rinto Harahap (bass, vocal), Erwin Harahap (gitar), dan Reynold Panggabean (drums, vocal) masih tetap berusaha mempertahankan eksistensi kelompok ini. Musik The Mercy’s jelas pincang tanpa adanya elemen organ atau keyboards yang sudah menjadi "trademark" sejak awal. Ketiga sisa personel The Mercy’s kemudian kasak-kusuk mencari pengganti, karena dalam waktu relatif singkat The Mercy’s yang tinggal bertiga harus segera masuk studio untuk merampungkan album baru.
Untuk mengatasi masalah kekurangan personel, drummer Reynold Panggabean kemudian mengajukan sosok Jockie Surjoprajogo seorang keyboardist personel God Bless untuk tampil sebagai "additional musician" dalam sejumlah album The Mercy’s di label Yukawi (yang sahamnya dimiliki Nomo Koeswoyo), setelah mereka hengkang dari label Remaco. Usul itu dterima oleh Rinto dan Erwin. Akhirnya Jockie Surjoprajogo secara profesional menyanggupi tawaran mendukung album The Mercy’s tersebut yang dimulai dengan album The Mercy’s Vol.XI serta dua album Christmas.
Rinto Harahap
Tahun 1978, Charles Hutagalung & Albert Sumlang kembali bergabung ke dalam The Mercy’s dan mereka melakukan rekamannya yang terakhir. Album Mimpi, tercatat sebagai album terakhir mereka dengan formasi lengkap setelah kembalinya Charles dan Albert yang dirilis pada tahun itu. Setelah The Mercy's menyelesaikan album tersebut, para anggota mengalami situasi kejenuhan. Anggota The Mercy’s memulai kegiatannya masing-masing di luar group. Charles Hutagalung sibuk bersolo karier, Erwin Harahap memilih berprofesi sebagai pengusaha jalur Produser Rekaman dengan mendirikan perusahaan sendiri. Reynold Panggabean memutuskan mendirikan group musik sendiri beraliran dangdut yaitu Orkes Melayu Tarantula. Sementara Albert Sumlang sibuk membantu album solo penyanyi lain. Rinto Harahap menjadi penyanyi solo, mendirikan band Lolypop, dan perusahaan rekaman, mencipta lagu, dan mengorbitkan penyanyi-penyanyi.
Setelah rilis album itu praktis The Mercy's vakum dari dunia rekaman dan pada akhirnya berujung selesainya riwayat band legendaris The Mercy’s. The Mercy’s tercatat telah merekam sebanyak 40 Album yang dihasilkannya mulai dari album Pop, Keroncong, Pop Anak-anak, dan Rohani yang rata-rata sukses serta digemari masyarakat luas. Rinto Harahap selalu mengungkapkan bahwa sebenarnya The Mercy's masih ada dan dari mereka pun belum ada pernyataan resmi bubar. Namun, tidak dapat dimungkiri The Mercy's dikenal karena keberadaan Charles Hutagalung dan mereka ini hanya sebagai pelengkap saja.