Menjadi muslim
Ammar dan Shuhaib bin Sinan masuk Islam pada waktu yang sama. Ketika itu mereka bertemu di depan rumah al-Arqam bin Abi al-Arqam, tempat Nabi Muhammad mengajarkan Islam kepada para sahabatnya. Saat bertemu Ibnu Sinan, Amar bertanya, “Apa yang kaulakukan di sini?”
Shuhaib justru balik bertanya, “Kau sendiri, apa tujuanmu ke sini? Ammar menjawab, “Aku ingin masuk ke tempat Muhammad dan mendengar perkataannya.”
Shuhaib berkata, “Aku pun sama.” Keduanya memasuki rumah itu dan Nabi berkenan menerima mereka serta menjelaskan kepada mereka ajaran Islam.[5]
Setelah Ammar bin Yasir dan keluarga memeluk Islam (setelah 30 orang masuk Islam), kemudian mereka disiksa oleh Abu Jahal untuk melepaskan Islam. Dalam siksaan itu orang tua Ammar bin Yasir tewas oleh kekejaman kaum Quraisy, di mana ibunya Sumayyah wafat ditusuk tombak pendek oleh Abu Jahal, menjadikannya wanita muslim pertama yang wafat (syahid) dalam Islam. Sementara Ammar selamat setelah diperlihatkan mukjizat oleh Rasulullah yang mengubah api menjadi dingin.[6]
Beratnya siksaan kaum Quraisy Mekah sehingga Ammar kehilangan kesadaran dan terpaksa mengikuti keinginan mereka mencaci nabi dan memuja berhala mereka, saat ia adukan kepada nabi, maka nabi tidak mempermasalahkannya.
“Orang kafir itu menyiksamu, lalu mereka menyiksamu, kemudian kamu mengatakan begini dan begini (menerima kembali penyembah berhala dan mencaci Muhammad agar tidak disiksa).” Ammar menjawab, “Benar, wahai Rasulullah.”
“Lalu, bagaimanakah keadaan hatimu sendiri?” Jawab Ammar,“Aku merasa tenang dan tetap mantap dalam keimanan, wahai Rasulullah." Sambil tersenyum Nabi berkata, “Jika mereka kembali, ucapkan lagi kata-kata yang pernah kau ucapkan itu.”[5] Sehingga turun al-Quran surat an-Nahl ayat 46 yang membenarkan tindakan Ammar.
Ia ikut dalam hijrah ke Habasyah (saat ini Ethiopia) dan kemudian hijrah ke Madinah.[4]
Dalam beberapa riwayat dikatakan Nabi bahwa iman memenuhi Ammar hingga ke ujung tulangnya yang paling lunak,[7] dan ketika terjadi pertengakaran dengan Khalid bin Walid, nabi katakan bahwa siapa memusuhi Ammar maka Allah memusuhinya.[3][8] Bahkan Nabi telah memberi peringatan bahwa jika nanti terjadi fitnah (perang saudara) maka Ammar berada di pihak yang benar[9] (terjadi konflik perebutan kekuasaan antara Muawiyah dan Ali sementara Ammar di pihak Ali), bahkan Muhammad mengatakan Ammar dibunuh kelompok yang sesat.[3][10]
Semasa Khalifah Abu Bakar, Ammar mengikuti Perang Yamamah melawan musuh Musailamah al-Kadzab yang mengaku Nabi. Putra Ammar berkata, “Aku melihat ayahku (Ammar bin Yasir) di hari Perang Yamamah berdiri di atas sebuah batu, kemudian berseru, ‘Hai kaum muslim, apakah kalian lari dari surga? Kemarilah! Kemarilah mendekat kepadaku! Aku Ammar bin Yasir! Kemarilah!’ Aku melihat telinganya nyaris putus terpapas senjata musuh." Dalam perang itu Ammar bertempur gigih.[5]
Semasa Khalifah Umar, ia mengutus Ammar sebagai gubernur dan panglima menggantikan Saad bin Abi Waqqash di Irak, dengan gaji 6.000 dirham (sekitar 24 juta rupiah per bulan).[3] Ammar mendukung Ali sejak dari masa Utsman bin Affan.[3]
Sahabat Ammar bin Yasir meriwayatkan 62 hadits seperti tercantum dalam Musnad Baqi bin Makhlad (wafat 276 H/ 889 M), 5 hadits terdapat dalam Sahihain (Sahih Bukhari dan Muslim).[11] Ia menjadi sumber riwayat bagi Ali, Ibnu Abbas, Abu Musa, Abu Umamah, Jabir bin Abdullah, Muhammad Hanafiyah dan lain-lain.[3]