Costa lahir di Gazipur, Bangladesh.[1] Ia ditahbiskan menjadi imam pada 21 Desember 1963. Ia diangkat menjadi Uskup Rajshahi pada 11 Januari 1996, dan ditahbiskan pada 26 April tahun yang sama.[2]
Dalam kapasitas resminya, Costa mengabdi untuk memajukan kerukunan masyarakat di negara mayoritas MuslimBangladesh. Atas pengakuan jasanya, Costa menjadi salah satu dari delapan orang yang menerima penghargaan dari Serikat Bantuan Hukum Hak Asasi Manusia Bangladesh atas "kontribusi signifikan dalam membela hak asasi manusia di Bangladesh".[3]
Archbishop Costa pensiun pada 22 Oktober 2012 dan digantikan oleh Patrick D'Rozario.[4]