Habib Ali diberikan berkah dengan dipanjangkan umurnya hingga 102 tahun,  diberikan kesehatan, penglihatan yang tajam dan tidak pakai kacamata saat membaca alquran.

Sebelum wafat, Habib Ali tidak pernah terlihat keluar rumah, kecuali saat membeli terpal dan tali yang nantinya digunakan untuk berteduh orang-orang yang menggali kuburnya.

Dua bulan sebelum wafat dia jatuh sakit. Anak-anak berupaya untuk mendatangkan dokter namun ditolaknya dengan alasan sudah tua.

Kepada anak-anaknya Habib ALi cuma berwasiat, dengan mengambil uang untuk diberikan kepada tukang gali kuburnya, uang tersebut diserahkan sebelum tukang gali melakukan pekerjaannya.

Tiga hari sebelum wafat, dia tidak lagi bicara, kalaupun berbicara Habib Ali hanya menggunakan bahasa arab, dan minta dibelikan pakaian bersih dan rapi.

Guru Zaini Abdul Ghani atau Guru Sekumpul diceritakan sempat menjenguknya di dalam kamar dan tidak tahu apa yang dibicarakan. Ketika keluar kamar Guru Zaini berpesan kepada anak-anak agar Habib jangan ditinggalkan.

Habib Ali meninggal dunia dalam usia 102 tahun pada tahun 1996, tepatnya malam Rabu jam 2 pertengahan bulan safar, saat itu seluruh anak dan istrinya ada di sisinya tepat menjelang Habib Ali tutup usia.

Dipenghujung kegiatan haul tampil memberi tausyiah Habib Ahmad Jamal Ba'agil asal Malang. Dalam tausyiahnya Habib Jamal mengajak jemaah untuk bisa menjaga lisan, tidak menggibah dan mengadu domba orang lain.

"Gunakan lisan dengan baik seperti mengaji dan memberikan nasihat kepada orang lain," pungkasnya.