Pada awal pembentukan PKB di tahun 2004, Habib Hadi resmi bergabung menjadi kader PKB. Habib Hadi dipercaya menjadi Ketua Dewan Pimpinan Cabang (DPC) PKB Kota Probolinggo (2005-sekarang). Dan tahun 2008, Habib Hadi diberi tanggung jawab lebih untuk menjadi Anggota Dewan SyuroPKBJawa Timur hingga 2009.