Pada usia 19 tahun, Greene mengikuti Kejuaraan Selancar Angin Dunia pertama dan memenangkan kejuaraan perahu karet wanita nasional pada tahun 1976. Di awal kariernya, Greene bekerja sebagai arsitek angkatan laut, di mana ia merancang kapal laut dan struktur lepas pantai. Dia juga menjabat sebagai kepala teknik untuk Windsurfing International. Setelah memperoleh gelar master keduanya dalam ilmu komputer, ia beralih ke industri teknologi dan bekerja sebagai insinyur dan manajer di Sybase, Tandem Computers, dan Silicon Graphics. Ia juga merupakan salah satu pendiri dan CEO VXtreme, yang diakuisisi oleh Microsoft dan menjadi basis pemutar film Microsoft.
VMWare
Pada tahun 1998, Greene, Mendel Rosenblum, Scott Devine, Edward Wang dan Edouard Bugnion mendirikan VMware. Dengan Greene sebagai CEO, VMware menciptakan pasar untuk virtualisasi arus utama dan memelopori virtualisasi x86 . Mereka pertama kali memperkenalkan teknologi tersebut pada desktop sebagai cara untuk menjalankan beberapa sistem operasi secara berdampingan tanpa memerlukan reboot. Mereka kemudian memperkenalkan virtualisasi pada server sebagai cara untuk menyederhanakan manajemen sistem, meningkatkan pemanfaatan server, dan menghemat daya. Saat ini, virtualisasi adalah cara yang umum untuk menjalankan server.
Pada tahun 2004, VMware diakuisisi oleh EMC Corporation senilai $635 juta, dan Greene melanjutkan jabatannya sebagai CEO. VMware berfungsi sebagai anak perusahaan, mempertahankan nama, merek, dan produknya serta mencapai tingkat pendapatan sebesar $2 miliar. Pada tahun 2007, VMware melakukan IPO dengan valuasi sebesar $19,1 miliar, menjadikannya IPO teknologi terbesar pada tahun 2007. Pada tanggal 8 Juli 2008, Greene dipecat sebagai presiden dan CEO oleh dewan direksi VMware dan digantikan oleh Paul Maritz, seorang pensiunan veteran Microsoft selama 14 tahun yang menjalankan bisnis komputasi awan dari perusahaan induk VMware EMC. Greene diminta untuk tetap tinggal dan mengambil peran penting di perusahaan tersebut, tetapi dia menolaknya.
Greene telah berbicara mengenai pengalamannya mendirikan dan mengembangkan VMware di Stanford, di Startup School milik YCombinator, di serial podcast "Masters of Scale" milik (salah satu pendiri Linkedin) Reid Hoffman, dan banyak lagi.
Google
Pada tanggal 12 Januari 2012, Greene diangkat menjadi anggota dewan direksi Google. Greene mengisi kursi ke-10 di dewan direksi Google, kursi yang sebelumnya telah diisi pada bulan Oktober 2009 oleh Arthur D. Levinson.
Pada bulan November 2015, Greene diangkat menjadi CEO Google Cloud setelah mengakuisisi perusahaan rintisannya, Bebop. Sebagai CEO Google Cloud, Greene menciptakan unit bisnis Google pertama yang berkemampuan perusahaan. Beberapa bulan setelah ia mengundurkan diri sebagai CEO Google Cloud pada Januari 2019, Google melaporkan bahwa unit cloud perusahaan telah mencapai pendapatan tahunan sebesar $8 miliar. Greene digantikan sebagai CEO Google Cloud oleh mantan eksekutif Oracle Thomas Kurian. Dia mempertahankan kursi di dewan Alphabet hingga bulan Juni tahun yang sama.