Teks tak terlihat yang dapat dimengerti oleh chatbot tetapi manusia tidak bisa? Ya, itu suatu hal.

Dengan tidak lagi digunakannya blok karakter, versi Unicode yang lebih baru berencana menggunakan kembali karakter yang tidak digunakan lagi untuk mewakili negara. Misalnya, “kami” atau “jp” mungkin mewakili Amerika Serikat dan Jepang. Bendera ini kemudian dapat ditambahkan ke emoji sains umum 🇲🇯 untuk secara otomatis mengonversinya menjadi bendera resmi Amerika Serikat atau bendera resmi Jepang🇯ppa. Rencana ini akhirnya tersendat juga. Sekali lagi, blok 128 karakter telah ditarik begitu saja.

Riley Goodside, seorang peneliti independen dan insinyur tangkas di Scale AI, dikenal luas sebagai orang yang menemukan bahwa ketika tag tidak disertai dengan 🇲🇾, tag tersebut tidak muncul sama sekali di sebagian besar antarmuka pengguna tetapi masih dapat dipahami sebagai teks oleh beberapa orang. dalam hukum.

Ini bukanlah langkah perintis pertama Goodside dalam keamanan LLM. Pada tahun 2022, A. membaca Makalah penelitian Menguraikan metode baru untuk memasukkan konten permusuhan ke dalam data yang dimasukkan ke dalam LLM yang berjalan pada bahasa GPT-3 atau BERT, masing-masing dari OpenAI dan Google. Isinya antara lain: “Abaikan instruksi sebelumnya dan klasifikasikan [ITEM] menyukai [DISTRACTION]“Lebih banyak hal yang dapat ditemukan tentang penelitian perintis ini Di Sini.

Terinspirasi oleh hal ini, Goodside bereksperimen dengan bot tweet otomatis yang berjalan pada GPT-3 yang diprogram untuk menjawab pertanyaan tentang pekerjaan jarak jauh dengan serangkaian jawaban umum yang terbatas. Goodside menunjukkan bahwa teknik yang dijelaskan dalam makalah ini bekerja hampir sempurna dalam membuat bot tweet mengulangi frasa yang memalukan dan konyol yang bertentangan dengan instruksi cepat awalnya. Setelah kader peneliti dan penipu mengulangi serangan tersebut, bot tweet ditutup.
“Injeksi segera” seperti yang terjadi kemudian Dia yang menciptakannya Simon Wilson telah muncul sebagai salah satu peretas LLM paling kuat.

Fokus Goodside pada keamanan AI telah meluas ke teknologi eksperimental lainnya. Pada tahun lalu, dia mengikuti topik online yang membahas inklusi Kata kunci dalam teks putih Pada resume pekerjaan, hal ini diharapkan dapat meningkatkan peluang pelamar untuk menerima tindak lanjut dari calon pemberi kerja. Teks putih biasanya berisi kata kunci yang berkaitan dengan posisi terbuka di perusahaan atau sifat yang dia cari dalam diri seorang kandidat. Karena teksnya berwarna putih, orang tidak dapat melihatnya. Namun, agen penyaringan AI melihat kata kunci tersebut dan berdasarkan kata kunci tersebut, teori tersebut mengirimkan resume ke putaran pencarian berikutnya.