Komdigi Catat Kerugian Penipuan AI Tembus Rp 9 Triliun

Kementerian Komunikasi dan Digital mencatat kasus penipuan berbasis kecerdasan buatan atau AI telah mengakibatkan kerugian finansial di Indonesia mencapai Rp 9,1 triliun, sebagaimana dilansir dari Detik iNET.

Wakil Menteri Komunikasi dan Digital Nezar Patria menyampaikan laporan tersebut saat menghadiri agenda Kaspersky Academic Summit bertajuk AI, Security & Society: What's Next for Our Digital Future.

Nezar menegaskan bahwa angka kerugian yang sangat tinggi ini dipicu oleh penggunaan teknologi canggih oleh para pelaku kejahatan siber.

"Gelombang penipuan berbasis AI yang menyebabkan kerugian sebesar Rp 9,1 triliun tidaklah mengandalkan metode yang sederhana. Penipuan ini memanfaatkan elemen-elemen sintetis, seperti peniruan identitas orang terdekat dan penciptaan sosok investor fiktif, serta sistem insentif otomatis yang beroperasi dalam skala yang mustahil dicapai oleh otak manusia tanpa bantuan teknologi," terang Nezar.

Dampak penipuan digital tidak hanya dirasakan di tingkat nasional, melainkan juga mengancam wilayah regional secara lebih luas.

Nezar menambahkan bahwa Perserikatan Bangsa-Bangsa (PBB) memperkirakan bahwa kerugian akibat penipuan daring di seluruh kawasan Asia-Pasifik dapat mendekati angka USD 140 miliar pada tahun ini saja. Ini adalah angka yang mengkhawatirkan dan perlu diwaspadai bersama.

Guna menghadapi ancaman kejahatan digital yang kian kompleks, Nezar menggarisbawahi perlunya penguatan sistem keamanan berbasis AI yang tidak sekadar canggih, tetapi juga adaptif dan adil.

Dengan adanya acara ini, Nezar berkata pertanyaan yang mesti kita jawab adalah bukan sesederhana bagaimana kita merancang keamanan berbasis AI, namun bagaimana kita dapat membangun keamanan berbasis AI yang senantiasa adaptif sekaligus berkeadilan.

Langkah awal yang ditawarkan pemerintah dalam merespons tantangan ini adalah penataan tata kelola keamanan yang kokoh sejak awal.

"Kami menyebutnya security by design (keamanan sejak tahap perancangan)," ujarnya.

Selain ketahanan sistem dasar, jangkauan infrastruktur perlindungan juga disoroti agar mampu melindungi seluruh lapisan masyarakat hingga pelosok desa.

Kedua, merancang sistem yang menjangkau lini terdepan, bukan hanya kantor pusat. Sistem intelijen pelacakan atau deteksi penipuan berbasis AI apa pun yang kita terapkan secara nasional harus dapat berfungsi bagi pemegang kartu SIM di desa, bukan hanya bagi tim anti-penipuan bank di Jakarta, katanya.

Implementasi teknologi pertahanan tersebut memerlukan mekanisme penyaringan pada tingkat telekomunikasi dan integrasi langsung di titik transaksi warga.

Hal ini berarti infrastruktur anti-penipuan yang langsung menyentuh publik, penyaringan di tingkat telekomunikasi, serta verifikasi berbantuan AI yang terintegrasi pada titik di mana warga biasa melakukan transaksi. Bukan hanya pada perimeter sistem perusahaan.

Di sisi lain, kewaspadaan tinggi tetap diperlukan mengingat teknologi AI memiliki sifat kegunaan ganda atau dual-use.

Ketiga, memandang AI sebagai teknologi dengan kegunaan ganda atau dual-use juga diperlukan sejak awal. Setiap kemampuan yang kita bangun untuk mendeteksi deepfake, menandai identitas sintetis, atau mengotomatisasi respons terhadap ancaman, pada dasarnya juga merupakan kemampuan yang dapat berbalik menyerang kita jika tata kelolanya buruk atau jatuh ke tangan yang salah.

Upaya pencegahan bahaya tersebut membutuhkan hadirnya kontrol manusia dalam setiap perancangan sistem sejak hari pertama.

Nezar menyebut perancanaan strategis berarti menyertakan mekanisme pengawasan, auditabilitas, dan akuntabilitas manusia ke dalam sistem sejak hari pertama. Bukan sekadar menambahkannya setelah insiden terjadi.

Pemerintah menegaskan keberhasilan perlindungan ekosistem digital mensyaratkan sinergi aktif dari seluruh pihak terkait.

"Tidak satu pun dari strategi tersebut dapat dibangun oleh entitas tunggal. Oleh karena itu, tanggung jawab bersama menjadi hal yang mutlak. Dalam hal ini, saya mengajak para praktisi, pembuat kebijakan, akademisi, dan masyarakat sipil untuk menjalankan peran masing-masing sekaligus meningkatkan kolaborasi sesuai dengan kapasitas mereka," ujar Nezar.

Kerja sama lintas sektor ini diharapkan menjadi proses berkelanjutan dalam menghadapi dinamika regulasi di masa depan.

"Kita memerlukan proses yang berkelanjutan dan kolaboratif, di mana pemerintah, industri, akademisi, dan pemangku kepentingan lainnya bersama-sama mengantisipasi kebutuhan regulasi," pungkasnya.