Google menerapkan lebih banyak pembatasan pada fitur Ikhtisar AI setelah meminta orang menempelkan lem pada pizza

Liz Read, kepala pencarian Google, mengakui bahwa mesin pencari perusahaannya telah mengembalikan beberapa “ikhtisar AI yang aneh, tidak akurat, atau tidak membantu” setelah diluncurkan secara publik di AS. Eksekutif tersebut memposting penjelasan tentang tanggapan Google yang lebih aneh yang dihasilkan oleh AI dalam sebuah file Entri blogDiumumkan pula bahwa perusahaan telah menerapkan pengamanan yang akan membantu fitur baru ini memberikan hasil yang lebih akurat dan kurang menarik untuk dijadikan meme.

Reid membela Google dan menunjukkan bahwa beberapa tanggapan yang lebih mengerikan terhadap tinjauan AI yang beredar, seperti klaim bahwa aman meninggalkan anjing di dalam mobil, adalah palsu. Tangkapan layar viral yang menunjukkan jawaban atas pertanyaan “Berapa banyak batu yang harus saya makan?” Benar, tapi dia mengatakan Google memberikan jawabannya karena sebuah situs menerbitkan konten satir tentang topik tersebut. “Sebelum tangkapan layar ini menjadi viral, praktis tidak ada yang menanyakan pertanyaan ini kepada Google,” jelasnya, sehingga AI perusahaan tersebut ditautkan ke situs ini.

Wakil presiden Google juga mengonfirmasi bahwa AI Review meminta orang menggunakan lem untuk membuat keju menempel pada pizza berdasarkan konten yang diambil dari sebuah forum. Dia mengatakan forum biasanya memberikan “informasi yang asli dan lugas,” namun juga dapat menghasilkan “nasihat yang kurang bermanfaat.” Namun sang CEO tidak menyebutkan jawaban lain yang beredar seputar ikhtisar AI Washington Post Menurut laporan, teknologi tersebut juga memberi tahu pengguna bahwa Barack Obama adalah seorang Muslim dan bahwa orang harus minum banyak air seni untuk membantu mereka menghilangkan batu ginjal.

Reed mengatakan perusahaannya menguji fitur ini secara ekstensif sebelum diluncurkan, namun “tidak ada jutaan orang yang menggunakan fitur ini untuk begitu banyak pencarian baru.” Tampaknya Google mampu mengidentifikasi pola-pola yang tidak dapat diperbaiki oleh teknologi AI-nya dengan melihat contoh tanggapannya selama dua minggu terakhir. Mereka kemudian menerapkan perlindungan berdasarkan masukannya, dimulai dengan menyempurnakan AI-nya agar dapat mendeteksi konten humor dan satir dengan lebih baik. Mereka juga telah memperbarui sistemnya untuk membatasi penambahan tanggapan pengguna di Ikhtisar, seperti postingan media sosial dan forum, yang dapat memberikan saran yang menyesatkan atau bahkan merugikan kepada orang-orang. Selain itu, ia juga menambahkan pembatasan pemicu untuk kueri yang Ikhtisar AI terbukti tidak berguna dan berhenti menampilkan respons yang dihasilkan AI untuk beberapa topik kesehatan.