DeepMind bermitra dengan Google Cloud untuk memberi tanda air pada gambar yang dihasilkan oleh kecerdasan buatan

Kredit gambar: Google

Bekerja sama dengan Google Cloud, Google DeepMind (divisi penelitian kecerdasan buatan Google). melepaskan Alat untuk memberi tanda air dan mengidentifikasi gambar yang dihasilkan AI – tetapi hanya gambar yang dihasilkan oleh Model Pembuatan Gambar Google.

Alat tersebut, disebut SynthID dan tersedia dalam versi beta untuk pengguna Vertex AI (platform Google untuk membuat aplikasi dan model kecerdasan buatan), menyematkan tanda air digital langsung ke dalam piksel gambar — menjadikannya tidak terlihat oleh mata manusia tetapi dapat dideteksi oleh suatu algoritma. . SynthID hanya mendukung Imagen, model teks-ke-gambar Google, yang tersedia secara eksklusif di Vertex AI.

Google sebelumnya Dikatakan bahwa itu akan mencakup metadata untuk menunjukkan media visual yang dihasilkan oleh model AI generatif. SynthID jelas melangkah lebih jauh dari itu.

“Meskipun AI generatif dapat membuka potensi kreatif yang sangat besar, hal ini juga menghadirkan risiko baru, seperti memungkinkan pembuat konten menyebarkan informasi palsu – baik disengaja atau tidak,” tulis DeepMind dalam postingan blognya. “Kemampuan untuk mengidentifikasi konten yang dihasilkan oleh AI sangat penting untuk memungkinkan orang mengetahui kapan mereka berinteraksi dengan media yang dihasilkan, dan untuk membantu mencegah penyebaran informasi yang salah.”

Kredit gambar: Pikiran yang dalam

DeepMind mengklaim bahwa SynthID, yang dikembangkan dan bermitra dengan Google Research (tim penelitian dan pengembangan Google) untuk meningkatkannya, tetap ada bahkan setelah modifikasi seperti menambahkan filter ke gambar atau mengubah warna dan mengompresi gambar secara tinggi. DeepMind mengatakan alat ini memanfaatkan dua model AI, satu untuk watermarking dan satu lagi untuk identifikasi, yang telah dilatih bersama pada serangkaian “berbagai” gambar.

SynthID tidak dapat mengenali gambar yang diberi watermark dengan keyakinan 100%. Namun alat tersebut membedakan kasus-kasus di mana gambar tersebut berada Mungkin Berisi tanda air pada gambar Sangat mungkin untuk menampung satu.

“SynthID bukanlah solusi yang sangat mudah terhadap manipulasi gambar yang parah, namun memberikan pendekatan teknologi yang menjanjikan untuk memungkinkan orang dan organisasi bekerja dengan konten yang dihasilkan AI secara bertanggung jawab,” tulis DeepMind dalam postingan blognya. “Alat ini juga dapat berkembang seiring dengan model dan metode AI lainnya yang melampaui gambar seperti audio, video, dan teks.”

Teknik watermark untuk seni generatif bukanlah hal baru. Startup Perancis Imatag, diluncurkan pada tahun 2020, menawarkan alat watermarking yang diklaim tidak terpengaruh oleh pengubahan ukuran, pemotongan, pengeditan atau kompresi gambar, mirip dengan SynthID. Perusahaan lain, Steg.AI, menggunakan model AI untuk menerapkan tanda air yang tahan terhadap perubahan ukuran dan modifikasi lainnya.

Namun tekanan semakin meningkat pada perusahaan-perusahaan teknologi untuk menyediakan cara untuk menunjukkan bahwa karya-karya tersebut dihasilkan oleh AI.

Baru-baru ini, Administrasi Ruang Siber Tiongkok mengeluarkan peraturan yang mewajibkan vendor AI generatif untuk menandai konten yang dihasilkan — termasuk pembuat teks dan gambar — tanpa memengaruhi penggunaan pengguna. Dan pada dengar pendapat Komite Senat AS baru-baru ini, Senator Kirsten Sinema (R-Arizona) dikonfirmasi Perlunya transparansi dalam AI generatif, termasuk penggunaan watermark.

Pada bulan Mei, pada konferensi Build tahunannya, Microsoft berkomitmen untuk memberi watermark pada gambar dan video yang dibuat oleh AI “menggunakan metode enkripsi”. Di tempat lain, startup AI Shutterstock dan Midjourney telah mengadopsinya Pedoman Untuk menyertakan tag yang menunjukkan bahwa konten tersebut dihasilkan oleh alat AI generatif. DALL-E 2 OpenAI, alat teks-ke-gambar, menyisipkan tanda air kecil di kanan bawah gambar yang Anda buat.

Namun sejauh ini, standar umum untuk tanda air – baik untuk membuat atau mendeteksi tanda air – terbukti sulit dipahami.

SynthID, seperti teknologi lain yang telah diusulkan, tidak akan berguna bagi pembuat gambar mana pun yang melakukan hal ini bukan seperti itu Imagen – setidaknya tidak dalam bentuknya yang sekarang. DeepMind mengatakan sedang mempertimbangkan untuk membuat SynthID tersedia bagi pihak ketiga dalam waktu dekat. Namun apakah pihak ketiga—khususnya pihak ketiga yang mengembangkan generator gambar AI open source, yang tidak memiliki banyak firewall generator di belakang API—akan menggunakan teknologi ini adalah masalah lain.