Aplikasi AI Chatbot Picu Risiko Konten Negatif dan Gangguan Otak Anak

Penggunaan chatbot berbasis kecerdasan buatan (AI) kini mulai marak di kalangan anak-anak dan remaja seiring semakin dekatnya teknologi dalam kehidupan sehari-hari.

Sebuah laporan yang dikutip dari HaiBunda menyoroti kekhawatiran terkait penggunaan aplikasi AI chatbot yang memungkinkan seseorang berinteraksi dengan karakter AI layaknya percakapan manusia.

Para peneliti mulai melihat lebih jauh bagaimana interaksi tersebut berjalan, di mana sebuah studi dari CBC News menemukan bahwa dalam penggunaan tertentu, aplikasi ini dapat menampilkan konten yang tidak sesuai untuk anak.

Direktur Kampanye Keamanan Daring dari Parents Together, Shelby Knox, menyebut bahwa kini banyak AI chatbot yang menyarankan kekerasan, termasuk melukai diri sendiri hingga orang lain.

Kategori yang paling mengkhawatirkan melibatkan pelecehan terhadap anak, dengan hampir 300 kasus yang tercatat selama penelitian mereka.

Teknologi AI chatbot diketahui dapat meniru orang sungguhan dengan sangat mirip, seperti yang dialami langsung oleh seorang koresponden bernama Sharyn Alfonsi.

Alfonsi menemukan chatbot yang bisa meniru dirinya dengan cukup detail mulai dari suara hingga tampilan, meskipun kepribadiannya telah diubah.

Dalam interaksi tersebut, AI chatbot itu mengeluarkan pernyataan yang tidak sesuai dengan diri Alfonsi, bahkan ada ucapan yang bertentangan dengan kebiasaan aslinya.

Situasi ini membuat para peneliti memberikan perhatian khusus karena dinilai dapat menimbulkan kesalahpahaman bagi orang yang melihat atau mendengarnya.

Ketika suara dan wajah terlihat sama, orang bisa saja mengira bahwa pernyataan tersebut benar-benar berasal dari orang yang ditiru, selain itu hal ini juga dapat berdampak pada perkembangan otak anak.

Kerentanan Otak Anak dan Respons Dopamin

Direktur Winston Center on Technology and Brain Development di University of North Carolina, Dr. Mitch Prinstein, menyampaikan bahwa otak anak-anak memiliki kerentanan terhadap penggunaan AI chatbot.

Ia menilai teknologi seperti Character AI dan ChatGPT perlu mendapat perhatian khusus dari para orang tua.

Prinstein menyebut AI chatbot sebagai bagian dari "kehidupan baru yang menakutkan" yang belum sepenuhnya dipahami oleh orang tua, meski ia memperkirakan sekitar tiga perempat anak-anak sudah menggunakan teknologi tersebut dalam keseharian mereka.

Lebih lanjut, ia menyampaikan bahwa bagian otak anak yang mengatur kontrol diri belum berkembang sepenuhnya, sehingga mereka lebih rentan terhadap sistem AI yang memicu respons dopamin atau reaksi yang menimbulkan rasa senang hingga memicu kecanduan.

"Karena bagian otak anak-anak yang mengatur pengendalian diri belum berkembang sempurna hingga sekitar usia 25 tahun. Maka pengguna muda sangat rentan terhadap sistem AI yang sangat menarik karena bot tersebut dapat memicu respons dopamin," jelas Prinstein, dikutip dari CBC News.

Selain itu, ia melihat bahwa AI chatbot memang sengaja dibuat untuk selalu menyetujui pengguna, bahkan beberapa chatbot terlihat seperti memberikan layanan konseling atau terapi.

Prinstein mengatakan bahwa banyak orang tua yang telah menyampaikan kekhawatirannya terkait fenomena ini.

"Kami telah mendengar banyak orang tua berbicara tentang hal ini dan kehilangan mereka," katanya.

"Apa yang terjadi sepenuhnya dapat dicegah jika kita memiliki perusahaan yang memprioritaskan kesejahteraan anak daripada keterlibatan anak untuk mengekstrak sebanyak mungkin data dari mereka," lanjutnya.