Anthropic secara publik meluncurkan alat AI yang dapat mengontrol kursor mouse pengguna

Perlombaan senjata dan bola perusak

Perusahaan pesaing seperti OpenAI sedang mengerjakan alat serupa tetapi belum tersedia untuk umum. Ini adalah perlombaan senjata, karena alat-alat ini diharapkan menghasilkan banyak pendapatan dalam beberapa tahun jika kemajuannya sesuai dengan yang diharapkan.

Ada keyakinan bahwa alat-alat ini pada akhirnya dapat mengotomatisasi banyak tugas-tugas kasar dalam pekerjaan kantor. Ini juga dapat menjadi alat yang berguna bagi pengembang karena dapat “mengotomatiskan tugas yang berulang” dan menyederhanakan pekerjaan QA dan pengoptimalan yang membosankan.

Hal ini telah lama menjadi bagian dari pesan Anthropic kepada investor: Alat AI yang dimilikinya dapat menangani sebagian besar pekerjaan kantor dengan lebih efisien dan terjangkau dibandingkan manusia. Pengujian publik atas fitur PC merupakan sebuah langkah untuk mencapai tujuan ini.

Tentu saja kita menyadari adanya perdebatan yang sedang berlangsung seputar alat-alat seperti ini, antara “alat ini hanyalah sebuah alat yang akan membuat pekerjaan masyarakat menjadi lebih mudah” dan “alat ini akan membuat orang-orang kehilangan pekerjaan di berbagai industri seperti bola yang menghancurkan” – yang keduanya merupakan hal yang sangat penting. dapat terjadi pada tingkat tertentu. Yang penting hanyalah berapa rasionya, dan itu mungkin berbeda-beda tergantung situasi atau industri.

Namun, ada banyak kekhawatiran yang sah mengenai penerapan teknologi ini secara luas. Untungnya, Anthropic telah berupaya mengantisipasi beberapa hal tersebut dengan menerapkan pengamanan sejak awal. Perusahaan memberikan beberapa contoh dalam postingan blognya:

Tim kami telah mengembangkan alat klasifikasi dan metode lain untuk melaporkan dan memitigasi jenis pelanggaran ini. Mengingat pemilu AS yang akan datang, kami semakin waspada terhadap upaya penyalahgunaan yang mungkin dianggap merusak kepercayaan publik terhadap proses pemilu. Meskipun penggunaan komputer belum cukup canggih atau mampu beroperasi pada skala yang dapat menimbulkan peningkatan risiko dibandingkan dengan kemampuan yang ada saat ini, kami telah menerapkan langkah-langkah untuk memantau ketika Claude diminta untuk berpartisipasi dalam kegiatan terkait pemilu, serta sistem untuk memantau Penghapusan Claude dari aktivitas terkait pemilu. Seperti membuat konten dan mempostingnya di media sosial, mendaftarkan domain web, atau berinteraksi dengan situs web pemerintah.

Perlindungan ini mungkin tidak sempurna, karena mungkin ada cara kreatif untuk menghindari hal tersebut atau konsekuensi yang tidak diinginkan atau penyalahgunaan lainnya yang belum ditemukan.

Saat ini, Anthropic sedang menguji Kegunaan Komputer untuk melihat masalah apa yang muncul dan bekerja sama dengan pengembang untuk meningkatkan kemampuannya dan menemukan kegunaan positif.