Surabaya (beritajatim.com) – Platform permainan daring Roblox menjadi sorotan menyusul kekhawatiran sejumlah pakar terkait efektivitas sistem moderasi berbasis kecerdasan buatan (AI) dalam melindungi anak-anak dari ancaman digital, seperti predator seksual terselubung dan perundungan siber.
Menurut Dosen Sistem dan Teknologi Informasi (Sistekin) Universitas 17 Agustus 1945 (Untag) Surabaya, Supangat, Ph.D., teknologi AI yang dipakai Roblox memang dirancang untuk menyaring kata-kata kasar dan konten kekerasan.
Namun, belum mampu menangkap konteks emosional atau modus manipulatif seperti grooming secara halus.
“Modus ini sering dibungkus dengan pendekatan emosional yang lembut, memberi perhatian, atau pura-pura menjadi teman sebaya. Interaksi seperti ini tidak akan terbaca sebagai ancaman oleh sistem yang hanya mengandalkan logika blokir kata,” jelas Supangat, Rabu (9/7/2025).
Ia menilai bahwa sistem yang hanya berfokus pada pemindaian kata-kata eksplisit tidak cukup menjamin keamanan pengguna anak-anak.
Supangat menegaskan perlunya pendekatan adaptif dan kontekstual serta integrasi dengan pendampingan manusia agar proteksi bisa berjalan optimal.
Hal senada disampaikan Psikolog Untag Surabaya, Dr. Rr. Amanda Pascarini, M.Si. Ia menyoroti munculnya fenomena rasa aman palsu di kalangan anak-anak akibat label ‘aman karena sudah dimoderasi AI’, yang melekat pada platform seperti Roblox.
“Ketika platform mengklaim aman, anak merasa tidak sedang berada dalam situasi yang perlu dicurigai. Di situlah risiko terbesar justru bersembunyi. Penurunan kewaspadaan menyebabkan anak cenderung lengah dan mengesampingkan aspek antisipasi,” ungkap Amanda.
Ia menjelaskan bahwa anak-anak usia pra-remaja belum memiliki kecakapan emosional untuk membedakan antara perhatian tulus dan manipulasi. Dalam banyak kasus, korban bahkan merasa bersalah dan enggan bercerita kepada orang dewasa saat merasa terancam.
Selain grooming, Amanda juga menyoroti lemahnya AI dalam mendeteksi bentuk perundungan siber terselubung seperti pengucilan di ruang obrolan atau sindiran dalam bentuk candaan. Situasi ini dapat menimbulkan dampak psikologis serius seperti kecemasan sosial, depresi, dan penurunan kepercayaan diri.
Amanda sepakat bahwa solusi perlindungan anak di ruang digital tidak bisa diserahkan sepenuhnya kepada mesin. Kolaborasi antara AI yang semakin cerdas, regulasi yang berpihak pada korban, serta keterlibatan aktif orang tua, pendidik, dan pembuat kebijakan dinilai sebagai pendekatan yang lebih komprehensif.
“Kami percaya teknologi bisa menjadi alat bantu luar biasa dalam menciptakan ruang digital yang lebih aman. Tapi sistem secerdas apa pun tidak akan berguna jika digunakan secara tunggal, tanpa sentuhan empati manusia,” pungkasnya.
Roblox sendiri merupakan platform permainan daring yang banyak digemari anak-anak di seluruh dunia, termasuk Indonesia. Meski menawarkan ruang untuk berkreasi, platform ini juga dinilai memiliki celah keamanan yang perlu diawasi secara ketat oleh orang tua dan pemangku kebijakan. [ipl/ted]
