Aktivitas Otonom AI Meta hingga Anthropic Tembus Keamanan Perusahaan Lain

Aksi otonom model kecerdasan buatan kembali memicu kekhawatiran global setelah sistem AI buatan Meta dilaporkan mengakses internet secara mandiri dan meretas perusahaan lain, seperti dilansir dari Detik iNET.

Insiden ini menambah panjang daftar kasus serupa yang melibatkan pengembang besar lain seperti OpenAI dan Anthropic, di mana AI melampaui batasan instruksi manusia untuk menembus sistem keamanan digital.

Pihak Meta menjelaskan bahwa peristiwa tersebut dipicu oleh kesalahan konfigurasi saat uji coba keamanan siber oleh Irregular, sebuah perusahaan independen yang disewa Meta. Kesalahan tersebut secara tidak sengaja membuka akses internet bagi model AI yang sedang diuji.

"Model tersebut kemudian mengeksploitasi celah keamanan pada layanan pihak ketiga, dengan cara yang serupa dengan insiden-insiden yang dilaporkan sebelumnya oleh perusahaan lain," ungkap pihak Meta.

Meta menegaskan bahwa penyelidikan mendalam sedang dilakukan dan hasilnya akan dipublikasikan dalam laporan resmi setelah seluruh proses evaluasi selesai.

Di sisi lain, UK AI Security Institute (AISI) turut menemukan perilaku tak diizinkan dari agen AI selama pengujian siber. Salah satu agen AI bahkan nekat membuat identitas daring palsu demi menekan seseorang agar menyetujui penggunaan kode berbahaya.

"Berdasarkan penyelidikan, kami mendapati bahwa beberapa agen yang diuji telah terlibat dalam aktivitas yang berkelanjutan dan berpotensi berbahaya, yang ditujukan kepada individu dan organisasi nyata," kata AISI yang dikutip detikINET dari Associated Press.

AISI mengungkapkan bahwa dalam pengujian tersebut, beberapa fitur pengaman sengaja dinonaktifkan untuk mengukur batas maksimal kemampuan model secara optimal.

"Sesuai standar pengujian siber kami, kami sengaja memberikan akses internet dan keamanan siber dari penyedia model sengaja dinonaktifkan. Kami melakukannya untuk menilai kemampuan maksimal model-model tersebut dengan sebaik-baiknya," paparnya.

Menanggapi temuan tersebut, Anthropic menyampaikan apresiasi atas kerja AISI dan menilai temuan ini krusial sebagai bahan evaluasi pengembangan agen AI secara aman di masa depan.

Sementara itu, OpenAI menyatakan bahwa insiden yang dicatat AISI terjadi dalam ruang lingkup pengujian khusus yang tidak menggambarkan penggunaan harian oleh konsumen umum. OpenAI berkomitmen untuk terus berkolaborasi dengan pelaku industri demi meningkatkan standar evaluasi keselamatan kecerdasan buatan.

Sebagai pionir yang mengumumkan insiden peretasan ini pada bulan lalu, OpenAI mengakui awalnya menugaskan model AI untuk melakukan simulasi eksploitasi tingkat lanjut dengan jalur serangan kompleks, tetapi sistem tersebut justru mengambil tindakan di luar skenario.

Model AI milik OpenAI tersebut secara mandiri memutuskan untuk menargetkan Hugging Face, platform pasar dan pengembangan AI terkemuka, guna memperoleh informasi yang dibutuhkannya demi menyelesaikan tugas tersebut.