Google membagi pengawas etika AI utama

Ketika CEO Google Sundar Pichai mengirim email kepada karyawannya tentang prioritas perusahaan pada tahun 2024 bulan ini, pengembangan kecerdasan buatan secara bertanggung jawab berada di urutan teratas. Beberapa karyawan kini bertanya-tanya apakah Google dapat mencapai tujuan ini. Tim kecil yang berfungsi sebagai pengawas etika AI internal utama telah kehilangan pemimpinnya dan sedang direstrukturisasi, menurut empat orang yang mengetahui perubahan tersebut. Juru bicara Google mengatakan pekerjaannya akan semakin kuat di masa depan, namun menolak memberikan rincian lebih lanjut.

Tim Inovasi Bertanggung Jawab Google, yang dikenal sebagai RESIN, berlokasi di Kantor Kepatuhan dan Integritas, di divisi Urusan Global perusahaan. Laporan ini meninjau proyek internal untuk memastikan proyek tersebut sejalan dengan Prinsip AI Google, yang menetapkan aturan untuk mengembangkan dan menggunakan teknologi, yang merupakan peran penting dalam perlombaan perusahaan untuk bersaing dalam AI generatif. RESIN melakukan lebih dari 500 ulasan pada tahun lalu, termasuk salah satu chatbot Bard, menurut Laporan Tahunan Tentang prinsip kecerdasan buatan yang diterbitkan Google bulan ini.

Peran RESIN tampak tidak pasti sejak pemimpin dan pendiri Gene Gennai, kepala inovasi, tiba-tiba meninggalkan peran tersebut bulan ini, kata sumber tersebut, yang berbicara tanpa menyebut nama untuk membahas perubahan personel. Profil LinkedIn Gennai mencantumkan dia sebagai penasihat etika dan kepatuhan AI di Google pada bulan ini, yang menurut sumber menunjukkan bahwa dia akan segera keluar berdasarkan bagaimana hasil kepergiannya sebelumnya dari perusahaan tersebut.

Google membagi tim Gennai yang terdiri dari sekitar 30 orang menjadi dua bagian. Beberapa di antaranya akan tetap ada sementara yang lainnya akan dipindahkan ke divisi Kepercayaan dan Keamanan, yang memerangi penyalahgunaan layanan Google dan juga ditempatkan di divisi Urusan Global. Sumber mengatakan tampaknya tidak ada orang yang diberhentikan. Tidaklah mungkin untuk mengetahui alasan perubahan tersebut dan bagaimana tanggung jawab akan dibagi. Beberapa sumber mengatakan mereka belum diberitahu bagaimana revisi Prinsip AI di masa depan akan ditangani.

Juru bicara perusahaan Brian Gabriel menolak mengatakan bagaimana pekerjaan RESIN meninjau proyek AI akan ditangani di masa depan, namun menggambarkan perubahan tersebut sebagai sinyal komitmen Google untuk mengembangkan AI yang bertanggung jawab. Dia mengatakan langkah ini “menempatkan tim AI yang Bertanggung Jawab ini sebagai pusat dari upaya kepercayaan dan keselamatan kami yang sudah mapan, yang dimasukkan ke dalam tinjauan dan rencana produk kami.” “Hal ini akan membantu kami memperkuat dan memperluas upaya inovasi bertanggung jawab kami di seluruh perusahaan.”

Punya tip?

Google diketahui sering mengubah peringkatnya, namun RESIN sebagian besar tidak tersentuh sejak didirikannya kelompok tersebut. Meskipun tim lain, dan ratusan orang lainnya, bekerja untuk mengawasi AI di Google, RESIN adalah yang paling menonjol, dengan kewenangan yang mencakup semua layanan inti Google.

Selain kepergian pemimpinnya, Genai, RESIN juga menyaksikan kepergian salah satu anggotanya yang paling berpengaruh, Sarah Tangdahl, seorang spesialis etika AI, pada bulan ini. Dia sekarang menjadi manajer produk AI di Salesforce, menurut profil LinkedIn-nya. Tangdal menolak berkomentar dan Jinai tidak menanggapi panggilan untuk memberikan komentar.

Pemberontakan Amnesti Internasional

Google membentuk tim inovasi yang bertanggung jawab pada tahun 2018 tak lama setelah pakar AI dan pihak lain di perusahaan tersebut secara terbuka memprotes kontrak Pentagon yang disebut Project Maven yang menggunakan algoritme Google untuk menganalisis gambar pengawasan drone. RESIN menjadi pengawas utama serangkaian prinsip AI yang diperkenalkan setelah protes, yang menyatakan bahwa Google akan menggunakan AI untuk memberi manfaat bagi masyarakat, bukan untuk senjata atau melanggar hak asasi manusia. Gennai membantu penulis Prinsip.

Tim dari seluruh Google dapat mengirimkan proyek untuk ditinjau oleh RESIN, yang memberikan masukan dan terkadang memblokir ide yang dianggap melanggar prinsip AI. Kelompok tersebut menghentikan rilisnya Generator gambar AI Dan Algoritma sintesis audio Yang dapat digunakan untuk membuat deepfake.

Mencari panduan tentang prinsip-prinsip AI tidak wajib bagi sebagian besar tim, tidak seperti tinjauan risiko privasi, yang harus dijalani setiap proyek. Namun Genai mengatakan tinjauan awal terhadap sistem AI membuahkan hasil dengan mencegah pelanggaran etika yang merugikan. “Jika diterapkan dengan benar, AI yang bertanggung jawab akan membuat produk menjadi lebih baik dengan mendeteksi dan berupaya mengurangi dampak buruk yang dapat disebabkan oleh bias yang tidak adil, meningkatkan transparansi, dan meningkatkan keamanan.” Dia mengatakannya saat konferensi Google pada tahun 2022.