Paus Fransiskus menyuarakan peringatan mengenai kecerdasan buatan pada KTT G7

BARI, Italia (AP) — Paus Fransiskus menantang para pemimpin negara demokrasi kaya di dunia pada hari Jumat untuk menjunjung tinggi martabat manusia di atas segalanya dalam pengembangan dan penggunaan kecerdasan buatan, dan memperingatkan bahwa teknologi canggih tersebut berisiko mengubah hubungan manusia menjadi sekadar algoritma.

Paus Fransiskus telah menggunakan otoritas moralnya untuk mempengaruhi G7, yang diundang oleh Italia sebagai tuan rumah untuk berpidato di sesi khusus pada pertemuan puncak tahunan mereka mengenai risiko dan potensi kecerdasan buatan. Dengan melakukan hal tersebut, ia menjadi Paus pertama yang menghadiri KTT G7, menawarkan perspektif moral mengenai isu yang semakin menjadi agenda KTT internasional, kebijakan pemerintah, dan ruang rapat perusahaan.

Paus Fransiskus mengatakan para politisi harus memimpin dalam memastikan bahwa AI tetap berpusat pada manusia, sehingga keputusan tentang kapan menggunakan senjata atau bahkan alat yang tidak terlalu mematikan akan selalu dibuat oleh manusia, bukan mesin.

“Kita akan mengutuk umat manusia ke masa depan yang tanpa harapan jika kita menghilangkan kemampuan manusia untuk membuat keputusan tentang diri mereka sendiri dan kehidupan mereka, dengan membuat mereka bergantung pada pilihan mesin,” katanya. “Kita perlu memastikan dan melindungi ruang bagi kendali manusia yang tepat atas pilihan yang dibuat oleh program AI: martabat manusia bergantung pada hal ini.”

Francis bergabung dengan sekelompok negara dan badan global yang mendorong pembatasan yang lebih kuat terhadap AI setelah booming AI generatif yang dimulai oleh chatbot ChatGPT OpenAI.

Paus asal Argentina menggunakan pesan perdamaian tahunannya tahun ini Menyerukan perjanjian internasional untuk menjamin kecerdasan buatan Dikembangkan dan digunakan secara etis. Ia berpendapat bahwa teknologi yang tidak memiliki nilai-nilai kemanusiaan yaitu kasih sayang, kasih sayang, moralitas, dan toleransi terlalu berisiko untuk dikembangkan tanpa pengawasan.

Dia tidak secara eksplisit mengulangi seruan ini dalam pidatonya pada hari Jumat, namun dia menjelaskan bahwa tanggung jawab ada pada politisi untuk memimpin masalah ini. Dia meminta mereka untuk segera melarang penggunaan senjata otonom yang mematikan, yang dalam bahasa sehari-hari dikenal sebagai “robot pembunuh”.

“Tidak ada mesin yang memilih untuk mengambil nyawa manusia,” katanya.

Saat berbicara kepada para pemimpin di meja perundingan, beliau menyimpulkan, “Terserah setiap orang untuk memanfaatkan (kecerdasan buatan) dengan baik, namun tanggung jawab terletak pada politik untuk menciptakan kondisi yang memungkinkan penggunaan yang baik ini dan membuahkan hasil.”

Perdana Menteri Italia Giorgia Meloni Dia menelepon Paus Fransiskus dan mengumumkan partisipasinya, karena mengetahui dampak potensial dari kekuatan bintang dan otoritas moralnya terhadap G7. Orang-orang di meja itu terlihat sangat ketakutan, dan suara keras di ruangan itu menjadi sunyi senyap ketika Francis tiba.

“Paus adalah selebriti yang sangat istimewa,” kata John Kirton, seorang profesor ilmu politik di Universitas Toronto yang memimpin kelompok penelitian G7.

KTT terakhir yang memiliki kekuatan luar biasa, yang kemudian diwujudkan dalam tindakan, terjadi pada pertemuan tahun 2005 di Gleneagles, Skotlandia, kenang Kirton. Di sana, para pemimpin dunia memutuskan untuk membatalkan utang 18 negara termiskin di dunia sebesar $40 miliar kepada Bank Dunia dan Dana Moneter Internasional.

KTT ini didahului dengan konser Live 8 di London yang menampilkan Sting, The Who dan Pink Floyd, yang menarik lebih dari satu juta orang untuk menunjukkan solidaritas melawan kelaparan dan kemiskinan di Afrika.

“Gleneagles telah mencapai kesuksesan besar di wilayahnya sendiri dan, bagi sebagian orang, merupakan salah satu pertemuan puncak yang paling sukses,” kata Kirton.

Tekanan populer seperti ini tidak diterapkan pada para pemimpin G7 dunia Wilayah Puglia di ItaliaNamun Paus Fransiskus tahu bahwa ia dapat menggunakan otoritas moralnya untuk memperbarui tuntutannya akan perlindungan kecerdasan buatan dan menyoroti ancaman terhadap perdamaian dan masyarakat jika etika manusia dikesampingkan.

“Berbicara tentang teknologi berarti berbicara tentang apa artinya menjadi manusia, dan karenanya tentang posisi unik kita sebagai makhluk yang memiliki kebebasan dan tanggung jawab,” ujarnya. “Itu berarti berbicara tentang etika.”

Teknologi AI generatif telah mengejutkan dunia karena kemampuannya dalam menghasilkan respons yang mirip dengan manusia, namun hal ini juga menimbulkan kekhawatiran mengenai keamanan AI dan menyebabkan sejumlah upaya global untuk mengekangnya.

Beberapa pihak khawatir mengenai risiko bencana namun kecil terhadap umat manusia akibat kemampuannya menciptakan senjata biologis baru dan menyebarkan disinformasi. Ada juga yang mengkhawatirkan dampaknya terhadap kehidupan sehari-hari, melalui bias algoritmik yang mengarah pada diskriminasi atau sistem kecerdasan buatan yang menghilangkan lapangan kerja.

Dalam pesan perdamaiannya, Paus Fransiskus menyuarakan keprihatinan ini dan menyampaikan kekhawatiran lainnya. Dia mengatakan Amnesty International harus menjaga keprihatinan utama dalam menjamin hak asasi manusia, mendorong perdamaian dan melindungi dari disinformasi, diskriminasi dan distorsi.

Di bidang regulasi, Paus Fransiskus dalam beberapa hal akan berkhotbah kepada orang-orang yang berpindah agama, karena anggota G7 telah berada di garis depan dalam perdebatan mengenai pengawasan AI.

Jepang, yang menjadi presiden bergilir G7 tahun lalu, meluncurkan proses AI Hiroshima untuk menetapkan pedoman internasional dan kode etik bagi pengembang AI. Selain upaya tersebut, Perdana Menteri Fumio Kishida bulan lalu Mengungkap kerangka regulasi global AI Generatif, yaitu sistem yang dapat dengan cepat menghasilkan teks, gambar, video, dan audio baru sebagai respons terhadap perintah dan perintah.

Uni Eropa adalah salah satu penggerak pertama karena cakupannya yang luas UU Kecerdasan Buatan yang rencananya mulai berlaku dalam dua tahun ke depan Hal ini dapat menjadi model global. Undang-undang tersebut menargetkan setiap produk atau layanan AI yang ditawarkan di 27 negara Uni Eropa, dengan pembatasan yang diberlakukan berdasarkan tingkat risiko yang ditimbulkannya.

Di Amerika Serikat, Presiden Joe Biden mengeluarkannya Perintah Eksekutif tentang Perlindungan Kecerdasan Buatan Mereka menyerukan undang-undang untuk memperkuatnya, sementara beberapa negara lebih memilih hal tersebut Kalifornia Dan Colorado Mereka telah mencoba meloloskan rancangan undang-undang AI mereka sendiri, dengan hasil yang beragam.

Pejabat antimonopoli Kedua sisi Samudera Atlantik Telah Mengaudit perusahaan kecerdasan buatan besar Termasuk Microsoft, Amazon dan OpenAI Tentang apakah posisi dominan mereka menghambat persaingan.

Inggris telah memulai dialog global mengenai pengekangan kecerdasan buatan Risiko ekstrim dengan pertemuan puncak musim gugur lalu. Di sebuah Pertemuan tindak lanjut Di Seoul, perusahaan berjanji untuk mengembangkan teknologi dengan aman. Prancis dijadwalkan menjadi tuan rumah pertemuan lain dalam rangkaian pertemuan tersebut awal tahun depan. PBB juga berkontribusi dalam hal ini Keputusan pertama Tentang kecerdasan buatan.

Di sela-sela pidatonya di Amnesty International, Paus Fransiskus menghabiskan satu hari penuh dalam pertemuan bilateral. Ia mengadakan pertemuan dengan Presiden Ukraina Volodymyr Zelensky, serta mengundang para pemimpin dari Aljazair, Brasil, India, Kenya, dan Turki. Ia juga akan bertemu dengan anggota G7, termasuk Biden, Perdana Menteri Kanada Justin Trudeau, dan Presiden Prancis Emmanuel Macron.

___

Chan melaporkan dari London.