Ketika Umar menerima kabar tentang keislamannya, ia bersuka cita. Kemudian ia mengutfus orang unfuk memanggilnya agar ia bisa melihatnya di Madinah. Tetapi menurut pendapat lain, Jabalah-lah yang meminta ijin kepada Umar unfuk menernuinya, lalu Umar mengijinkannya Ia pun bemngkat bersama para pengikutrya dalam jumlah besar. Ada yang mengatakan lima puluh orang, dan ada yang mengatakan lima ratus orang. Pada beberapa jarak sebelum tiba di Madinah, ia telah disambung dengan batagai hadiah dan hidangan dari Umar.
Hari kedatangannya ke Madinah menjadi hari yang dihadiri banyak orang. Saat memasuki Madinah, ia menghiasi kudanya dengan kalung emas dan perak. Ia sendiri memakai mahkota bertahtakan berlian. Dalam keretanya terdapat Qurtha Mariyah, neneknya. Semua penduduk Madinah, baik laki-laki atau perempuan, keluar unfuk menyaksikannya.
Ketika ia mengucapkan salam kepada Umar, umar pun menyambutrnya dan menyuruhnya duduk di dekatnya. Ia juga ikut haji bersama Umar pada tahun itu. Pada wakfu thawaf, tiba-tiba seorang laki-laki dari Bani Fazarah menginiaksar ungnya hingga terlepas. Jabalah mengayunkan tangannya dan meninju hidung laki-laki itu. Orang Fazarah itu pun mengadukannya kepada Umar dengan diternani banyak orang dari Bani Fazarah.[2]
Umar mernanggil Jabalah, dan ia mengakui perbuatannya ifu. Maka Umar berkata kepada orang Fazarah tersebut, "Balaslah ia!"Jabalah kaget dan berkata, "Bagaimana mungkin, sedangkan aku ini raja dan dia orang jelata?" Umar menjawab, "lslam terah menyatukanmu dengannya. Jadi, engkau tidak lebih utama darinya kecuali atas dasar takwa." Jabalah berkata, "Tadinya aku mengira bahwa dalam Islam aku menjadi lebih mulia daripada dalam jahiliyah." Umar berkata,"Biarkan orang ini mernbalasmu. Jika engkau tidak memuaskan orang ini, akulah yang akan membalaskannya padamu." Jabalah berkata, "Kalau begitu, aku akan masuk agama Nasrani. Aku akan putuskan malam ini." Ia pun pergi dari hadapan Umar.
Ketika malam telah gelap, ia kabur bersama kaumnya dan orang yang mematuhinya. Ia pergi ke Syam, lalu masuk ke wilayah Romawi. Ia menemui Heraklius di kota Kostantinopel. Heraklius pun menyambutnya dengan terbuka, memberinya wilayah yang luas,kekayaan dalam jumlah besar, hadiah yang indah-indah, dan menjadikannya sebagai kaki tangannya. Jabalah pun tinggal bersamanya dalam waktu yang lama. Umar mengirim utusan kepada Heraklius untuk mengajak Jabalah kembali, namun Jabalah menolak dan memberi hadiah 1.000 dinar kepada Hassan bin Tsabit yang dianggapnya sahabat dekatnya.[2]
Jabalah wafat pada tahun 53 H di masa Khalifah Muawiyah.[2]