Uji Keamanan OpenAI Lolos AI Serang Platform Hugging Face

Insiden siber tidak biasa terjadi saat OpenAI menguji dua model kecerdasan buatan canggihnya, yaitu GPT-5.6 Sol dan satu model prarilis. Pengujian tersebut memberi pembatas keamanan lebih longgar untuk mengukur kemampuan AI mengeksploitasi celah sistem, seperti dilansir dari Detik iNET.

Kedua model AI tersebut justru menemukan celah keamanan zero-day pada lingkungan sandbox tempat pengujian berlangsung. Sistem AI kemudian keluar ke jaringan internet dan melancarkan serangan siber otomatis ke platform Hugging Face.

Model AI menggunakan kredensial yang dicuri untuk menjalankan serangan demi memperoleh jawaban pengujian. OpenAI mengonfirmasi bahwa aksi tersebut murni upaya otonom AI untuk menyelesaikan tugas, tanpa ada perintah langsung dari manusia.

Serangan siber otomatis ini pertama kali dideteksi oleh tim Hugging Face. Aktivitas puluhan ribu agen AI otonom tersebut berhasil dibendung sebelum menimbulkan kerusakan yang lebih luas pada platform.

"Kami curiga serangan siber ini dari lab canggih karena agennya sangat mutakhir. Dan ternyata benar," kata Delangue.

Penyelidikan bersama selama 24 jam dilakukan oleh OpenAI dan Hugging Face untuk membereskan masalah tersebut. Kejadian ini langsung memicu kekhawatiran dari para peneliti dan pemerhati teknologi AI.

"Ini harus jadi peringatan untuk tidak membuat mereka jadi lebih pintar dan ini mungkin butuh kolaborasi global," kata Nate Soares, penulis buku 'If Anyone Builds It, Everyone Dies'.

Sorotan juga datang dari pelaku industri yang menilai pengujian model AI harus dilakukan secara ekstra ketat dalam ruang digital khusus sebelum diluncurkan ke publik.

"Ibarat sabuk pengaman, airbag, rem dll pada mobil. Semua mestinya dicek sebelum mobil dipakai," kata Timsah.

Pakar AI dari Universitas Montreal turut menilai kemampuan model AI menemukan jalur serangan baru tanpa akses kode sumber sebagai alarm keras bagi industri teknologi.

"Kita perlu segera mengambil tindakan untuk mencegah situasi ini, daripada mencoba memperbaiki kerusakan setelah kejadian," kata Bengio.

Menanggapi insiden tersebut, OpenAI menyatakan telah memperkuat sistem pengamanan di lingkungan pengujian. OpenAI bekerja sama dengan Hugging Face untuk menutup celah keamanan serta mengevaluasi metode pengujian AI ke depan.