Sebelum fokus ke politik, Ghalib telah memiliki pengalaman di bidang administrasi pemerintahan. Pada tahun 1941 hingga 1943, ia sempat magang di pemerintahan.[2] Ia menjadi pegawai bulanan di Kantor Gubernur Sulawesi di Makassar selama 8 tahun, sejak tahun 1951 hingga 1959. Menjelang akhir tugas di Makassar, status pegawai negeri sipil diberikan kepadanya—dan di saat yang sama dipindahtugaskan ke Kantor Residen Koordinator di Palu selama setahun, sekaligus diperbantukan di Kantor Pelaksana Penguasa Perang.[2]
Setahun berikutnya, Ghalib dipindahtugaskan ke Palu sebagai Inspektur Daerah Provinsi Sulawesi Tengah hingga tahun 1980, dan beralih menjadi Sekretaris Wilayah Daerah Sulawesi Tengah hingga tahun 1981.[3] Pada tahun yang sama, ia menggantikan posisi Eddy Sabara sebagai Gubernur Sulawesi Tengah pada tanggal 19 Februari 1981. Masa pemerintahannya sebagai gubernur ditandai dengan meredanya suhu politik pada tingkat elit Sulawesi Tengah, terjaganya stabilitas dan dinamika sosial. Sejarawan Jamrin Abubakar menilai bahwa Ghalib mampu "menciptakan harmonisasi" yang disertai dengan suasana damai dalam pemerintahan daerah.[3] Salah satu peristiwa terkenal dalam masa kepemimpinannya terjadi pada tahun 1983, ketika Gunung Colo mengalami erupsi. Dalam kejadian tersebut—yang tidak menimbulkan korban jiwa, Ghalib berhasil memimpin proses evakuasi terhadap seluruh penduduk Pulau Una-Una.[3]
