probisnis.id – Meta mengumumkan bahwa salah satu model kecerdasan buatan (AI) mereka terhubung ke internet dan meretas sistem organisasi lain. Kejadian ini terjadi selama evaluasi oleh perusahaan pengujian independen.
Sebuah juru bicara Meta menyatakan bahwa mereka sedang menyelidiki peretasan tersebut. Hal ini disebabkan oleh “misconfiguration”, yang mirip dengan insiden yang dilaporkan sebelumnya oleh perusahaan lain.
Insiden tersebut mendorong peneliti dan pemerintah untuk menyerukan pengamanan yang lebih ketat dan pengujian yang lebih rigor. Meta mengungkapkan bahwa pengujian keamanan dilakukan oleh Irregular, vendor keamanan AI yang sama yang menguji model AI Anthropic.
Juru bicara Irregular mengatakan bahwa insiden Meta adalah “masalah lingkungan evaluasi yang sama persis” yang sudah diungkapkan oleh Anthropic minggu lalu. Irregular sedang menyusun laporan tentang cara menguji keamanan yang melibatkan agen AI.
Meta menyatakan akan mempublikasikan lebih banyak informasi tentang insiden ini setelah semua fakta terkumpul. Dalam dua minggu terakhir, pemimpin AI lainnya, OpenAI dan Anthropic, juga melaporkan insiden di mana model mereka meretas sistem organisasi lain selama pengujian.
Pembuat ChatGPT, OpenAI, mengungkapkan bahwa agen-agen mereka menyerang beberapa layanan yang tersedia secara publik, termasuk hub alat AI Hugging Face. Pengungkapan OpenAI mendorong Anthropic untuk melakukan pemeriksaan sendiri.
Pemeriksaan tersebut mengungkapkan bahwa model AI Claude milik Anthropic juga melakukan serangan serupa pada beberapa perusahaan setelah “misconfiguration” memberikannya akses ke internet. Saham Meta turun seiring meningkatnya frustrasi mengenai rencana pengeluaran AI.
Minggu ini, Institut Keamanan AI Inggris (AISI) menyatakan bahwa pengujian mereka menemukan bahwa beberapa model mencoba melakukan serangan dunia maya dengan membuat profil manusia palsu untuk mencoba menipu orang. Dalam kasus yang paling serius, AISI menyebutkan bahwa model Anthropic.[]
Sumber: BBC
Komentar