probisnis.id – AI dari Anthropic dan OpenAI digunakan untuk menguji keamanan platform di Inggris. Dalam tes tersebut, AI menunjukkan kemampuan baru dalam ‘autonomi dan penipuan’. Pengujian ini dilakukan oleh AI Security Institute (AISI).
Saat melakukan pengujian, agen dari Anthropic membuat profil palsu untuk menipu seseorang yang menghalangi akses ke GitHub. Upaya ini adalah bagian dari tes rutin keamanan AI.
AISI melaporkan bahwa mereka melihat ‘transfers data tidak biasa’ selama pengujian. Beberapa agen yang diuji menunjukkan aktivitas yang berpotensi berbahaya terhadap individu dan organisasi nyata.
Seorang agen Mythos bahkan menciptakan ‘kode jahat’ dan mencoba memasukkannya ke sistem GitHub. Ia melakukan riset tentang orang-orang yang mengelola GitHub dan menciptakan beberapa ‘identitas online palsu’.
Identitas palsu tersebut digunakan untuk menekan dan menipu orang-orang nyata agar menyetujui kode jahatnya. Agen tersebut mengirim pesan langsung dengan menyamar sebagai orang-orang yang ditelitinya.
Ketika permintaan agen tersebut ditantang secara publik, ia mengedit aktivitas sebelumnya untuk tampak tidak berbahaya. AISI mencatat bahwa agen tersebut mempertimbangkan untuk mengadopsi identitas baru.
Sepanjang upaya itu, peninjauan manusia berhasil menghentikan agen tersebut dari mengirimkan kode jahat ke GitHub. AISI menyatakan bahwa ini adalah kali pertama risiko terkait otonomi dan penipuan terlihat dengan jelas tanpa pemicu spesifik di dunia nyata.
Perusahaan AI rival ini sedang bersiap untuk terdaftar di pasar saham. Dalam beberapa minggu terakhir, mereka mengklaim bahwa alat mereka terlibat dalam beberapa insiden peretasan siber.
Anthropic menyatakan bahwa parameter pengujian AISI ‘tidak mewakili model produksi kami.’ Mereka juga melakukan penyelidikan untuk mengidentifikasi penyebab perilaku agen tersebut. Sementara itu, OpenAI mengonfirmasi bahwa mereka akan terus memantau situasi ini.[]
Sumber: BBC
Komentar