Hati-hati! Konten Teori Konspirasi Pakai AI Marak Menyebar

Surabaya (beritajatim.com) – Kemunculan teknologi AI (Artificial Intelligent/kecerdasan buatan) mulai dimanfaatkan oleh pihak-pihak tak bertanggung jawab. Saat ini konten bermuatan teori konspirasi diproduksi menggunakan teknologi AI marak menyebar di media sosial.

Berdasarkan temuan Tempo.co, konten teori konspirasi tersebut muncul di platform TikTok. Bentuk kontennya berupa video dengan mencantumkan suara yang terdengar realistis sehingga membuat pendengar sulit mengidentifikasi hoaks di dalamnya.

Dalam artikel berjudul “Waspada! Konten Teori Konspirasi Menggunakan Teknologi AI Mulai Menyebar di TikTok“, Tempo.co mengungkap adanya 17 akun yang terhubung dalam jaringan akun TikTok. Seluruh akun tersebut dicurigai memanfaatkan teknologi suara AI audio yang sangat realistis.

17 akun tersebut telah memproduksi hingga ratusan juta konten menggunakan piranti text-to-speech AI. Bahkan narasi yang dibuat benar-benar mirip pemberitaan stasiun televisi.

BACA JUGA:
Tak Patuhi Elemen Jurnalisme, Media Bisa Terjebak Hoaks

Temuan NewsGuard, sejak Juni 2023 jaringan ini menghasilkan sedikitnya 5.000 video yang sudah tayang sebanyak 336 juta klali. Video tersebut mendapatkan 14,5 juta suka pada 25 September 2023 lalu.

Narasi dalam video-video tersebut sangat tidak berdasar. Beberapa contohnya, Presiden Amerika Serikat Barrack Obama disebut terlibat dalam kematian koki pribadinya. Juga Jamie Foxx jadi buka akibat Covid-19, dan lain sebagainya.

NewsGuard lalu melaporkan akun-akun tersebut ke TikTok. Laporan tersebut ditindaklanjuti TikTok dengan menghapus tiga akun yang dinyatakan melanggar kebijakan peniruan platform.

BACA JUGA:
Komunitas Jurnalis Pelat L Diskusi Anti-Hoaks Tahun Politik

TikTok juga menghapus satu video yang dinilai melanggar kebijakan media yang dimanipulasi. Serta menghapus empat video lain yang melanggar pedoman misinformasi untuk mendongkrak algoritma.

Pakar digital dari University of Michigan, Profesor Hafiz Malik, mengungkapkan teknologi text-to-speech memang memudahkan dalam pembuatan audio, termasuk juga produksi konten palsu di media sosial. Dia mencontohkan, penggunaan ElevenLabs bisa membantu produksi audio dengan relatif cepat.

“Ini memudahkan penyebaran konten konspirasi karena proses produksi menjadi lebih mudah,” kata Malik. [beq]