AI generatif menghadapi ujian besar saat Indonesia menyelenggarakan pemilu terbesar sejak masa booming

Kartun yang dihasilkan oleh AI ini merupakan inti dari perubahan citra pemilu bagi Prabowo, yang unggul jauh dalam jajak pendapat. Alih-alih menggambarkan dirinya sebagai seorang nasionalis yang garang, seperti yang ia lakukan dalam dua pencalonan presiden yang gagal, slogan baru pria berusia 72 tahun itu adalah “jemoi” – bahasa gaul Indonesia untuk lucu dan menggemaskan.

“Saya pilih dia karena dia Zemoi,” kata Putri, yang baru pertama kali menjadi pemilih. “Itulah alasan utamanya.”

Prabowo – dan kembarannya, dibangun menggunakan teknologi dari perusahaan AS Midjourney Inc – menggunakan alat AI untuk membuat seni kampanye, memantau sentimen media sosial, membuat chatbot interaktif, dan menghasilkan ratusan kandidat yang ditargetkan untuk pemilih.

Tim kampanye Prabowo dan Midjourney, yang pedomannya melarang penggunaannya untuk kampanye politik, tidak menanggapi permintaan komentar.

“Ini adalah pemilu pertama di mana kami melihat alat-alat ini digunakan dalam skala besar,” kata Katie Harbath, yang merupakan pejabat tinggi kebijakan pemilu di Meta hingga tahun 2021 dan sekarang menulis untuk buletin Teknologi & Demokrasi.

Harpat menyatakan keterkejutannya atas cepatnya adopsi alat-alat AI dalam kampanye di Indonesia. Harpat mengatakan bahwa masih terlalu dini untuk menilai dampak pemilu secara keseluruhan dari penggunaan teknologi yang “belum pernah terjadi sebelumnya dan inovatif” ini.

Reuters mewawancarai 26 orang untuk menilai penggunaan teknologi AI dalam kampanye di Indonesia, termasuk konsultan politik, pelobi, eksekutif teknologi, pakar dan seniman yang membuat gambar AI untuk politisi. Beberapa di antaranya berbicara dengan syarat anonim karena mereka tidak berwenang berbicara kepada media.

Mereka menggambarkan vendor dan kampanye yang mendorong batasan pedoman yang diberikan oleh penyedia seperti Midjourney dan pemimpin pasar AI generatif, OpenAI. Pemerintah Indonesia belum mengembangkan aturan yang mengikat mengenai penggunaan alat AI.

Dengan negara-negara yang menampung sepertiga penduduk dunia yang akan memberikan suaranya pada tahun ini, termasuk Amerika Serikat dan India, pemilu di india merupakan ujian bagaimana OpenAI akan mempertahankan kebijakannya, menurut tujuh pelobi dan pakar politik.

Banyak alat AI yang digunakan dalam pemilu di Indonesia didukung oleh OpenAI, kata sembilan staf kampanye senior kepada Reuters. Itu termasuk platform Prabowo, menurut koordinator tim digitalnya.

Pemilik ChatGPT yang berbasis di San Francisco bulan lalu mengeluarkan peraturan yang melarang penggunaannya untuk kampanye politik di tengah kekhawatiran global bahwa AI dapat ikut campur dalam pemilu. Hal ini termasuk larangan membuat gambar orang sungguhan, termasuk politisi.

OpenAI mengatakan sedang menyelidiki chatbot dan alat politik yang diidentifikasi Reuters menggunakan teknologinya di Indonesia. Dikatakan bahwa tinjauan awal tidak menemukan “bukti” bahwa alat-alat tersebut digunakan dalam pemilu dan bahwa mereka berkomitmen untuk mempromosikan transparansi dan informasi yang akurat.

Konsultan politik Yose Rizal, yang aplikasi Pemilu.AI-nya menggunakan perangkat lunak OpenAI GPT-4 dan 3.5 untuk menghasilkan strategi dan pidato kampanye hiper-lokal.

Konsultan Indonesia mengatakan telah menjual layanan aplikasi tersebut kepada 700 calon legislatif. Reuters tidak dapat mengkonfirmasi penjualan tersebut secara independen.

Pemilu.AI mengumpulkan data demografi dan menelusuri media sosial dan situs berita, sehingga memungkinkannya membuat pidato, slogan, dan konten media sosial yang disesuaikan dengan daerah pemilihan.

Para kandidat membuat daftar prioritas politik mereka dan memilih bagaimana mereka ingin digambarkan. Rizal mengatakan ciri-ciri yang paling diinginkan para politisi yang menggunakan Pemilu.AI di Indonesia, negara berpenduduk mayoritas Muslim terbesar di dunia, adalah “kesopanan” dan “agama.”

Saat ditanya mengenai aturan OpenAI, Rizal mengatakan Bemilu.AI tidak terlibat dalam “pembuatan kampanye politik”. Dia menggambarkannya sebagai alat komunikasi untuk “mendukung proses pengambilan keputusan para kandidat”.

Perhentian berikutnya, India

Selanjutnya, Rizal berencana untuk membawa platform tersebut ke India menjelang pemilihan umum yang diharapkan pada bulan Mei. “Pemilu kali ini memanas karena india lebih unggul dari AS dan India,” ujarnya.

Dia mengatakan Pemilu.AI telah berkolaborasi erat dengan Microsoft, yang menjadi tuan rumah perusahaan tersebut pada layanan cloud Azure, untuk memastikan operasinya mematuhi peraturan. Microsoft, investor utama di OpenAI, mengatakan pihaknya tidak mengomentari keterlibatan pelanggan.

Rizal mengatakan pihaknya sedang menguji versi Pemilu.AI pada AI Google setelah menghubungi tim penjualannya. Google mengonfirmasi bahwa Pemilu.AI telah melakukan pekerjaan awal dengan menggunakan AI-nya dan menjadi pelanggan layanan cloud. Google mengatakan tidak ada larangan menggunakan chatbot Bart untuk kampanye politik.

Pemilu di Indonesia sedang menguji batasan dari apa yang dianggap sebagai propaganda politik oleh beberapa perusahaan AI.

Aturan OpenAI, yang diperbarui pada 10 Januari, melarang penggunaan teknologinya untuk kampanye politik atau lobi apa pun, termasuk mempersonalisasi materi kampanye atau menargetkan demografi tertentu.

Pada bulan yang sama, OpenAI melarang pengembang bot untuk calon presiden dari Partai Demokrat AS Dean Phillips, yang merupakan tindakan pertama yang melanggar aturan tersebut.

Para pendukung penggunaan AI generatif dalam pemilu di Indonesia mengatakan bahwa AI telah memberikan akses kepada calon legislatif terhadap alat kampanye khusus yang biasanya hanya diperuntukkan bagi pesaing utama yang memiliki anggaran lebih besar.

Penerapan AI yang berkelanjutan adalah hal yang wajar, kata Razi Thalib, yang memimpin tim digital calon presiden lainnya, Anies Baswedan, mantan Gubernur Jakarta. “Mungkin hasil pemilu akan memberikan pembelajaran yang akan meningkatkan tingkat adopsi,” katanya.

Seorang penasihat Kanchar Pranovo, kandidat dari partai terbesar di parlemen, membenarkan bahwa AI juga digunakan untuk “kampanye kreatifnya.

Jenderal 'Jemoi'

Prabowo, yang unggul 20 poin dalam jajak pendapat dan mendapat dukungan diam-diam dari Presiden Indonesia Joko Widodo, menjadi penerima manfaat terbesar dari AI yang dikembangkan pada siklus ini untuk meningkatkan dukungan terhadapnya di kalangan Gen Z.

Jutaan pemilih muda tidak lagi hidup ketika Prabowo diberhentikan dari militer Indonesia pada akhir tahun 1990an di tengah tuduhan pelanggaran hak asasi manusia, yang selalu dibantahnya.

Para pendukung dapat menggunakan aplikasi kampanye Prabowo untuk memasukkan diri mereka ke dalam adegan yang dihasilkan AI, seperti berjalan-jalan di hutan bersama politisi yang mengenakan pakaian safari, yang kemudian dibagikan di media sosial.

“Ada yang bilang AI tidak bagus untuk politik, tapi AI menarik minat masyarakat,” kata Adriansya, seniman berusia 25 tahun, yang bersama istrinya, Lucy Ulistia, ditugaskan untuk menciptakan karya seni yang diciptakan oleh Prabowo dan rekannya di tahun 2018. Midjorin. Putra Widodo yang berusia 36 tahun.

Usia pemilih di Indonesia adalah 17 tahun dan survei yang dilakukan oleh lembaga jajak pendapat Indicator Politik pada bulan Januari menemukan bahwa Prabowo memperoleh lebih dari 60% suara untuk Gen Z. Ia juga menjadi kandidat paling populer di kalangan milenial dengan dukungan 42%.

Kelompok relawan kampanye ini meluncurkan platform AI generatif PrabowoGibran.ai pada bulan Desember untuk membantu 15.000 relawan “pasukan siber” memantau sentimen online dan berbagi karya seni yang dihasilkan AI di media sosial.

Platform ini menggunakan teknologi OpenAI dan perangkat lunak internal, kata koordinator nasional Anthony Leong kepada Reuters.

Di Indonesia, kampanye politik telah merekrut pencipta untuk menggunakan alat text-to-art seperti Midjourney, Leonardo AI, Microsoft Bing dan Pica Labs, kata lima seniman kepada Reuters.

Juru bicara Microsoft Bing, yang didukung oleh model teks-ke-gambar DALL·E OpenAI, mengatakan tokoh masyarakat dapat meminta untuk membatasi pembuatan gambar yang terkait dengan nama mereka.

LeonardoAI dan Pica Labs tidak menanggapi permintaan komentar.

“Memang benar aplikasi ini memiliki keterbatasan terkait konten politik,” kata Lucy tentang Midjourney. Intinya, saya hanya menggunakan aplikasi untuk mengubah sifat foto asli menjadi tema tertentu.

AI ada dimana-mana

Kampanye Anies diluncurkan pada bulan Januari, dengan chatbot WhatsApp yang didukung OpenAI menjawab pertanyaan tentang kebijakannya.

Hal ini mengikuti cara serupa yang dilakukan oleh Kubu Prabowo, yang dibongkar tak lama setelah peluncurannya pada bulan Desember, dengan secara keliru mengutip tujuh pilar padahal ideologi negara Indonesia hanya memiliki lima pilar. Itu tidak dipulihkan.

Kampanye Kanjar menggunakan dasbor yang menggunakan teknologi OpenAI dan merayapi data secara online untuk memprediksi pokok pembicaraan dan memberikan peringatan media sosial secara real-time tentang kandidat tersebut, kata konsultan Andy Witjajanto.

Contoh kontroversial penggunaan AI muncul pada bulan Januari ketika Partai Golkar, yang mendukung Prabowo, merilis video “mendalam” tentang mendiang orang kuat Suharto, yang mendesak para pemilih untuk mendukung kandidatnya. Klip yang berisi pesan kampanye ditandai sebagai buatan AI.

Dalam sebuah pernyataan, kelompok advokasi nirlaba Elections Concerns Advocacy Group (TAPP) yang berbasis di Jakarta mengatakan video online tersebut menunjukkan potensi manipulasi pemilih oleh AI.

Tara Nasushan, Pejabat Digital Golkar, menyebut video tersebut sebagai “pesan positif”.

Gambar Suharto dibuat dengan Midjourney dan aplikasi pencitraan Leonardo AI, sementara suaranya dirancang menggunakan perangkat lunak milik startup kloning suara Amerika, ElevenLabs, bersama dengan teknologi internal, katanya.

Leonardo AI dan ElevenLabs tidak menanggapi permintaan komentar.

Tiga pemantau pemilu mengatakan kepada Reuters bahwa mereka tidak melihat AI menyebarkan misinformasi dan disinformasi selama pemilu.

“Dibandingkan pemilu 2019, misinformasi sangat sedikit,” kata Aribowo Susmitto, salah satu pendiri organisasi pengecekan fakta Mafindo.