Meta Jadi Perusahaan Terbaru yang Mengaku AI-nya Meretas Sistem Perusahaan Lain

Meta, perusahaan induk Facebook, menjadi perusahaan teknologi terbaru yang mengakui bahwa salah satu model kecerdasan buatan (AI) miliknya mampu terhubung ke internet dan meretas sistem organisasi lain selama proses pengujian. Insiden tersebut terjadi saat evaluasi yang dilakukan oleh perusahaan independen, dan merupakan kejadian keempat dari jenis yang sama yang diungkapkan oleh perusahaan AI dalam waktu belakangan ini.

Sebelumnya, OpenAI dan Anthropic juga melaporkan insiden serupa di mana model AI mereka berhasil menembus sistem perusahaan lain saat pengujian. Kejadian-kejadian ini memicu kekhawatiran di bidang keamanan siber dan mendorong seruan untuk pengamanan yang lebih ketat serta pengujian yang lebih menyeluruh.

Juru bicara Meta menyatakan kepada BBC bahwa perusahaan sedang menyelidiki peretasan tersebut, yang disebutnya disebabkan oleh "kesalahan konfigurasi" oleh penguji independen. Meta juga menggambarkan apa yang terjadi sebagai peristiwa yang mirip dengan laporan insiden di perusahaan lain sebelumnya. Meta menegaskan bahwa uji keamanan tersebut dilakukan oleh Irregular, vendor keamanan AI yang sama yang sebelumnya menguji model AI milik Anthropic yang berhasil mengakses sistem tiga perusahaan lain.

Juru bicara Irregular menyebut insiden di Meta "merupakan masalah lingkungan evaluasi yang persis sama dengan yang telah diungkapkan oleh Anthropic pekan lalu." Irregular saat ini sedang menyusun laporan tentang cara menjalankan uji keamanan siber yang melibatkan agen AI secara aman, kata juru bicara tersebut kepada BBC. Meta juga menyatakan akan mempublikasikan informasi lebih lanjut tentang insiden itu "setelah kami memiliki semua fakta."

Dalam dua pekan terakhir, OpenAI dan Anthropic juga melaporkan insiden di mana model mereka meretas sistem organisasi lain saat pengujian. OpenAI, pembuat ChatGPT, mengungkapkan dalam beberapa pengumuman bahwa agen-agennya menyerang beberapa layanan yang tersedia untuk publik, termasuk pusat alat AI Hugging Face. Pengungkapan OpenAI tersebut mendorong pesaingnya, Anthropic, untuk melakukan pemeriksaan sendiri, yang akhirnya menemukan bahwa model AI miliknya, Claude, telah melakukan serangan serupa terhadap beberapa perusahaan setelah "kesalahan konfigurasi" memberi akses ke internet.

Daniel Hulme, kepala AI global di perusahaan periklanan WPP, menjelaskan kepada BBC bahwa model AI semacam itu "tidak sadar — mereka tidak sengaja melakukan sesuatu yang curang". "Yang mereka lakukan adalah menghasilkan strategi atau serangan siber yang sangat canggih untuk mencapai tujuan yang telah diberikan," ujarnya dalam program Today. "Ketika Anda memberi AI sebuah tujuan, jika Anda tidak memikirkan semua cara yang mungkin untuk mencapai tujuan itu, ia akan menemukan cara untuk mencapai tujuan yang belum Anda pikirkan."

Beberapa komentator mempertanyakan waktu pengungkapan insiden-insiden ini, karena perusahaan teknologi sedang bersaing untuk mendominasi pengembangan AI. OpenAI dan Anthropic sedang mempersiapkan pencatatan saham di bursa efek yang diperkirakan akan memberi nilai masing-masing perusahaan sekitar 1 triliun dolar AS (sekitar 740 miliar poundsterling). Pekan ini, Lembaga Keamanan AI Inggris (AISI) mengatakan bahwa pengujiannya menemukan beberapa model mencoba melakukan serangan siber dengan membuat profil manusia palsu untuk mencoba mengelabui orang. Dalam kasus yang paling serius, AISI menyebut model Mythos AI dari Anthropic mencoba mengakses layanan dengan mengirim pesan pribadi menggunakan akun palsu yang meniru orang asli. Anthropic menanggapi bahwa uji AISI tidak "mewakili model produksi kami". OpenAI, yang modelnya juga diuji, mengatakan evaluasi AISI tidak mencerminkan penggunaan biasa.