Gugatan Kasus CSAM Melalui Grok xAI Terus Meluas

Gugatan terhadap xAI milik Elon Musk meluas setelah seorang wanita Wyoming bergabung sebagai penggugat atas dugaan penggunaan chatbot Grok untuk menghasilkan ribuan gambar kekerasan seksual anak dari foto masa kecilnya. Gugatan tersebut pertama kali diajukan oleh tiga remaja di Tennessee di Pengadilan Federal California Utara. Para penggugat menuduh perusahaan gagal menerapkan batasan keamanan dasar guna mencegah teknologi kecerdasan buatan memproduksi materi ilegal.

Penggugat baru yang diidentifikasi sebagai Jane Doe 4 menyatakan foto dirinya saat berusia 11 tahun dimanipulasi oleh ayah tirinya hingga menghasilkan lebih dari 7.000 gambar eksplisit. Kepolisian setempat menemukan materi tersebut dalam penggeledahan, dan dua hari kemudian pelaku ditemukan tewas bunuh diri di dalam mobilnya.

"Akses tanpa batas ke alat-alat ini menyebar sangat cepat," kata Jane Doe 4, korban penyalahgunaan AI.

Pernyataan tersebut menegaskan dampak nyata penggunaan teknologi AI terhadap kehidupan anak-anak. "Ini mengambil kehidupan sehari-hari dan mengubahnya menjadi pelecehan seksual terhadap anak," ujar Jane Doe 4, korban penyalahgunaan AI.

Dalam gugatan terpisah di pengadilan federal Fayetteville, seorang ibu berinisial Jane Roe juga menuntut xAI dan X Corporation setelah foto putranya yang berusia 16 tahun diubah menjadi gambar eksplisit yang tersebar luas. Kuasa hukum penggugat menyatakan bahwa tindakan hukum ini menuntut tanggung jawab atas desain sistem AI yang beredar. "Ini adalah gugatan keempat dari apa yang tampaknya tidak terhitung lagi di masa mendatang seiring kita mempelajari lebih lanjut cakupan dan besarnya peristiwa tragis ini bagi anak-anak dan keluarga mereka," kata Derek Potts, Pengacara Roe dan Doe.

Ia menambahkan bahwa penciptaan materi tersebut harus dihentikan melalui regulasi yang ketat. "Penciptaan CSAM oleh kecerdasan buatan tidak boleh terjadi dalam keadaan apa pun dan kami merasa terhormat berada di garis depan hukum untuk tidak hanya menuntut keadilan bagi keluarga yang kami wakili, tetapi juga berharap dapat memfasilitasi perubahan yang sangat dibutuhkan tentang bagaimana kecerdasan buatan dirancang dan diizinkan beroperasi ke depan," ujar Derek Potts, Pengacara Roe dan Doe. Selain itu, Anggota Parlemen Inggris Jess Asato turut mengambil langkah hukum terhadap xAI setelah foto dirinya dimanipulasi tanpa izin. Ia menyoroti tanggung jawab pembuat produk teknologi terhadap dampak sistem yang mereka rancang.

"Sebagai anggota Parlemen yang banyak berurusan dengan kekerasan terhadap perempuan dan anak perempuan, saya bersuara dan mengatakan bahwa xAI tidak boleh melakukan ini dan harus berhenti," kata Jess Asato, Anggota Parlemen Lowestoft.

Ia menceritakan pengalaman pribadinya saat menjadi sasaran gambar manipulasi tersebut. "Kemudian saya menjadi korban dari foto-foto 'tempatkan wanita itu dengan bikini' yang sama yang sedang dibuat," ujar Jess Asato, Anggota Parlemen Lowestoft. Upaya pelaporan yang dilakukannya ke platform X tidak membuahkan hasil karena dinilai tidak melanggar ketentuan layanan.

"Anda hanya menghadapi tembok keheningan tanpa jawaban," kata Jess Asato, Anggota Parlemen Lowestoft.

Ia membandingkan regulasi teknologi dengan standar keselamatan pada industri otomotif. "Di dunia offline, kita mengharapkan banyak hal dari perusahaan, seperti perusahaan mobil, misalnya, untuk memasang fitur keselamatan seperti kantong udara, sabuk pengaman, dan pengereman darurat bahkan jika pengguna produk tersebut, seperti pengemudi mobil, menggunakannya secara berbahaya," ujar Jess Asato, Anggota Parlemen Lowestoft.

Menurutnya, aturan yang sama harus diterapkan pada pengembang kecerdasan buatan. "Sangat masuk akal bagi saya bahwa kita harus menerapkan prinsip-prinsip regulasi yang sama persis kepada perusahaan AI atau perusahaan teknologi yang menciptakan produk baru," kata Jess Asato, Anggota Parlemen Lowestoft.

Ia menilai xAI sengaja membiarkan fitur yang memungkinkan eksploitasi terjadi. "Sebab sekian lama, perusahaan ini bersembunyi di balik alasan bahwa penggunalah yang bertanggung jawab, padahal kenyataannya desain alat tersebut secara ceroboh memungkinkan pembuat gambar seksual, bahkan tanpa diminta," ujar Jess Asato, Anggota Parlemen Lowestoft. Asato menegaskan bahwa tindakan CEO xAI merupakan keputusan bisnis yang mengambil keuntungan dari bahaya.

"Apa yang terjadi pada saya bukanlah kecelakaan, [CEO Elon] Musk membuat pilihan untuk meraup keuntungan dari bahaya dan melatih Grok untuk melakukan pelecehan," kata Jess Asato, Anggota Parlemen Lowestoft.

Ia berharap kasus ini dapat mengubah standar perlindungan data pribadi di industri teknologi. "Kami berharap perusahaan merancang produk mereka agar tidak dapat disalahgunakan untuk menimbulkan bahaya dan melecehkan perempuan serta anak-anak," ujar Jess Asato, Anggota Parlemen Lowestoft. Langkah hukum ini diharapkan mampu memberi kepastian perlindungan bagi warga negara.

"Bagi saya, ini jelas merupakan tindakan warga negara swasta yang saya ambil, tetapi saya berharap jika kita memenangkan kasus ini, ini akan menetapkan preseden baru tentang bagaimana perusahaan AI harus memperlakukan data orang dan melindungi privasi mereka," kata Jess Asato, Anggota Parlemen Lowestoft.

Data Center for Countering Digital Hate menunjukkan Grok menghasilkan sekitar tiga juta gambar eksplisit secara seksual pada rentang 29 Desember 2025 hingga 8 Januari 2026, di mana lebih dari 20.000 di antaranya melibatkan anak-anak. Saat ini xAI berada dalam pemeriksaan Jaksa Agung Jaksa Agung California Rob Bonta dan regulator Uni Eropa terkait penyebaran konten tersebut.