“Kalau kau rahasiakan, akan kuberi tahu,” jawab Abu Dzar.
“Aku akan merahasiakannya.”
Maka Abu Dzar mengungkapkan alasannya, yakni hendak menemui lelaki yang telah mengaku sebagai nabi di kota ini. Ali berkata, “Sungguh, Allah telah memberikanmu hidayah. Aku akan berjalan ke tempatnya, maka ikutilah aku. Kalau sampai ada yang yang melihatmu, aku khawatir mereka melakukan sesuatu padamu.”
Kedua orang ini lalu menuju ke rumah Nabi SAW dengan sedemikian rupa sehingga orang-orang tak menyangka mereka saling mengenal. Saat bertemu Rasulullah SAW, Abu Dzar memintanya untuk menjelaskan tentang Islam. Sesudah itu, dia langsung bersyahadat dan menyatakan diri sebagai Muslim.
Waktu itu, syiar Islam masih disebarkan secara sembunyi-sembunyi. Apalagi, kaum Muslimin di Makkah belum memiliki kekuatan untuk mengimbangi tekanan musyrikin, terutama yang berasal dari kalangan elite Quraisy. Akan tetapi, Abu Dzar bersikeras mengumumkan keislamannya di hadapan khalayak.
Ia berkata kepada Nabi SAW, “Demi Zat yang mengutusmu dengan kebenaran, aku akan meneriakkan hal ini di tengah-tengah mereka.” Abu Dzar pun pergi ke dekat Baitullah. Saat itu, banyak pemuka Quraisy berkumpul di sana.
Langsung saja ia berteriak, “Wahai orang-orang Quraisy! Sungguh aku bersaksi bahwa tidak ada Tuhan yang benar kecuali Allah. Dan aku bersaksi bahwa Muhammad adalah hamba dan utusan-Nya!”
Tak menunggu lama, mereka menangkap dan memukuli Abu Dzar. Bahkan, nyaris saja lelaki yang baru memeluk Islam ini kehilangan nyawanya. Abbas datang di dekatnya dan mengangkat tubuh Abu Dzar yang babak belur.
“Celakalah kalian, kaum Quraisy! Apa kalian hendak membunuh seorang dari Bani Ghifar!? Padahal, jalur perdagangan kalian melewati perkampungan orang-orang Ghifar!” ujar Abbas. Mendengar itu, mereka berhenti menghajar Abu Dzar.
Sejak itu, ia menjadi salah satu sahabat Nabi SAW. Di Madinah, sesudah hijrah, Rasulullah SAW mempersaudarakannya dengan seorang Anshar bernama al-Mundzir bin Amr. Tak pernah sehari pun dilewatkannya tanpa mengambil ilmu dan hikmah dari sang khatamul anbiya.
