Para astronom menemukan teknik untuk menghilangkan prasangka kecerdasan buatan menggunakan instrumen pengukur galaksi

Pada tahun 2024, semakin mudah untuk membuat gambar realistis tentang orang-orang yang dihasilkan oleh kecerdasan buatan, sehingga menimbulkan kekhawatiran tentang bagaimana hoaks ini akan dideteksi. Peneliti di Universitas Hull Hal itu terungkap belum lama ini Cara baru untuk mendeteksi gambar palsu yang dibuat oleh kecerdasan buatan dengan menganalisis pantulan di mata manusia. Teknologi ini diperkenalkan pada Pertemuan Astronomi Nasional Royal Astronomical Society Pekan lalu, alat yang digunakan para astronom untuk mempelajari galaksi diadaptasi untuk meneliti konsistensi pantulan cahaya di bola mata kita.

Adegumoke Owolabi, seorang mahasiswa Magister di Universitas Hull, memimpin penelitian di bawah pengawasan Dr. Dr.Kevin PimblettProfesor astrofisika.

Teknik pendeteksiannya didasarkan pada prinsip sederhana: sepasang mata yang disinari oleh sumber cahaya yang sama biasanya akan memiliki kumpulan pantulan cahaya yang bentuknya serupa di setiap mata. Banyak gambar yang dihasilkan AI sejauh ini tidak memperhitungkan pantulan mata, sehingga pantulan cahaya yang disimulasikan sering kali tidak konsisten pada setiap mata.

Dalam beberapa hal, sudut astronomi tidak selalu diperlukan untuk deteksi deepfake semacam ini karena pandangan sekilas ke sepasang mata dalam sebuah gambar dapat mengungkap perbedaan refleksi, yaitu Seniman melukis potret Namun penerapan alat astronomi untuk secara otomatis mengukur dan mengukur pantulan mata dalam video palsu adalah sebuah perkembangan baru.

Deteksi otomatis

Di Royal Astronomical Society Blog Dalam artikel terbitan The Verge, Pimblett menjelaskan bahwa Owolabi mengembangkan teknik untuk mendeteksi pantulan bola mata secara otomatis, dan menjalankan ciri morfologi pantulan tersebut melalui indikator untuk membandingkan kemiripan antara bola mata kanan dan kiri. Temuan mereka mengungkapkan bahwa video palsu seringkali menunjukkan perbedaan pada kedua matanya.

Tim menerapkan metode astronomi untuk mengukur dan membandingkan pantulan bola mata. Dan mereka dimanfaatkan koefisien Ginibiasanya digunakan untuk Mengukur distribusi cahaya pada gambar galaksiUntuk mengevaluasi konsistensi refleksi di seluruh piksel mata. Nilai Gini yang mendekati 0 menunjukkan bahwa cahaya tersebar merata, sedangkan nilai yang mendekati 1 menunjukkan bahwa cahaya terkonsentrasi pada satu piksel.

Dalam artikel Royal Astronomical Society, Pimblett membuat perbandingan antara bagaimana bentuk pantulan bola mata diukur dan bagaimana bentuk galaksi biasanya diukur dalam gambar teleskop: “Untuk mengukur bentuk galaksi, kami menganalisis apakah galaksi-galaksi tersebut kompak di pusatnya, apakah mereka simetris, dan seberapa halusnya. Kami menganalisis distribusi cahaya “.

Para peneliti juga mengeksplorasi penggunaan Parameter CAS (fokus, asimetri, kehalusan), alat astronomi lainnya untuk mengukur distribusi cahaya galaksi. Namun cara ini terbukti kurang efektif dalam mengidentifikasi mata palsu.

Perlombaan senjata dalam deteksi

Meskipun teknologi refleksi mata menawarkan jalur potensial untuk mendeteksi gambar yang dihasilkan AI, metode ini mungkin tidak berfungsi jika model AI berevolusi untuk menyertakan refleksi mata yang akurat secara fisik, mungkin diterapkan sebagai langkah selanjutnya setelah pembuatan gambar. Teknik ini juga memerlukan pandangan bola mata yang jelas dan dekat agar dapat bekerja.

Pendekatan ini juga berisiko menghasilkan hasil positif palsu, karena gambar asli pun terkadang dapat menunjukkan pantulan yang tidak konsisten pada mata karena kondisi pencahayaan atau teknik pasca-pemrosesan yang berbeda-beda. Namun analisis pantulan mata mungkin masih menjadi alat yang berguna dalam perangkat pendeteksi deepfake yang lebih besar yang juga memperhitungkan faktor-faktor lain seperti tekstur rambut, anatomi, detail kulit, dan simetri latar belakang.

Meskipun teknologi ini menjanjikan dalam jangka pendek, Dr. Pimblett mengingatkan bahwa teknologi ini belum sempurna. Teknik ini tidak akan mendeteksi semuanya. Namun metode ini memberi kita dasar dan rencana serangan dalam perlombaan senjata untuk mendeteksi rekaman palsu, katanya kepada Royal Astronomical Society.