AI Melawan Disinformasi, Fitnah, dan Kebencian

Oleh: Yandra Arkeman, Guru Besar Teknik Industri Pertanian IPB University, Ketua BRAIN (Blockchain, Robotics and Artificial Intelligence Networks) IPB; dan Archy Renaldy Pratama Nugraha, Kandidat Doktor Ilmu Komputer IPB University, Peneliti BRAIN IPB

REPUBLIKA.CO.ID, JAKARTA -- Saat ini pemerintah kita sedang giat-giatnya memberantas disinformasi, fitnah, dan kebencian yang disebabkan oleh penyalahgunaan media sosial dan pengembangan Kecerdasan Buatan atau Artificial Intelligence (AI) secara tidak beretika. Kita sedang berhadapan dengan teknologi AI yang lahir sebagai perpanjangan akal manusia (AI Baik), tapi diam-diam berubah wujud menjadi mesin pengganda kebohongan paling rapi yang pernah ada (AI Jahat).

Bukan lagi soal apakah AI ini berbahaya atau bermanfaat, sebab jawabannya sudah telanjang di depan mata: dua-duanya benar sekaligus. Yang jadi pekerjaan rumah kita bersama adalah bagaimana kekuatan ganda ini lebih sering menyembuhkan ruang publik daripada melukainya. Artinya bagaimana AI Baik bisa kita gunakan untuk memberantas AI Jahat.

Coba tengok datanya. Sepanjang Oktober 2024 hingga Oktober 2025 saja, Mafindo mencatat 1.593 hoaks yang sebagian besar lahir dari rahim AI, mulai dari deepfake sampai skema penipuan yang dipersonalisasi seolah mengenal korbannya secara pribadi. Ini bukan sekadar pesan berantai receh yang gampang ketahuan bohongnya. Video, suara, situs, semuanya kini bisa dipalsukan dengan presisi yang membuat mata dan telinga kita, yang selama ini jadi andalan untuk membedakan mana asli mana palsu, jadi tumpul.

Dan angka itu belum seberapa dibanding yang terjadi belakangan. Wamenkomdigi Nezar Patria, September 2025 lalu, mengutip data Sensity AI: konten deepfake melonjak 550 persen dalam lima tahun terakhir, dan sembilan dari sepuluhnya dipakai untuk hal-hal yang merugikan. Awal 2026 malah lebih ngeri lagi. Sebuah workshop keamanan siber di Yogyakarta memaparkan lonjakan serangan deepfake sampai 1.400 persen dalam setahun, dibarengi tingkat keberhasilan serangan phishing berbasis AI yang tembus 54 sampai 60 persen. Ketua Presidium Mafindo, Septiaji Eko Nugroho, bilang begini: deepfake di Indonesia sekarang paling banyak dipakai untuk menipu, sekaligus menggiring opini publik di panggung politik.

Ketika Algoritma Menyulut Kebencian

Soalnya tidak berhenti di dompet yang terkuras. Ketua Bawaslu Rahmat Bagja, menjelang persiapan Pemilu 2029, mengingatkan bahwa AI membuat siapa saja bisa memproduksi konten yang nyaris mustahil dibedakan dari kenyataan, diperparah bot, jaringan akun terkoordinasi, dan micro-targeting yang membidik kelompok pemilih tertentu bak peluru kendali. Yang lebih menyayat, data yang sama menunjukkan setidaknya 11 persen perempuan muda usia 15 sampai 29 tahun pernah mengalami kekerasan berbasis gender secara daring sejak usia belia, kebanyakan lewat deepfake dan manipulasi visual.

Ini bukan lagi wacana abstrak soal etika teknologi, ini luka nyata yang ditanggung manusia sungguhan.Di sinilah letak bahayanya yang sesungguhnya, dan mungkin di sinilah pepatah "air tenang menghanyutkan" jadi paling pas. Konten hoaks dengan bumbu sensasional lebih gampang memancing emosi, dan algoritma media sosial yang secara teknis netral itu justru memprioritaskannya karena dianggap "menarik" bagi banyak orang. Ruang gema pun terbentuk, mengunci warganet dalam gelembung yang sejalan dengan keyakinannya sendiri. Fitnah dan ujaran kebencian tumbuh subur, bukan cuma dari akun anonim yang gampang ditandai, tapi juga menyelinap diam-diam ke dalam informasi yang tampak meyakinkan, padahal keruh di dasarnya.

Senjata Balasan: AI sebagai Detektor

Tapi cerita ini jangan cuma berhenti pada keluhan. Toh, pisau yang sama bisa memotong roti atau melukai tangan, tinggal siapa yang memegangnya. Kajian Mafindo tahun 2025 menunjukkan model bahasa berbasis transformer sanggup mengklasifikasikan berita hoaks berbahasa Indonesia dengan akurasi di atas 90 persen.

Sementara riset yang terbit di Jurnal Khatulistiwa Informatika edisi Juni 2026 sudah selangkah lebih maju, mengembangkan sistem deteksi hoaks berbasis AI otonom dengan akurasi 89,3 persen yang bahkan bisa menunjukkan bukti di balik keputusannya, bukan sekadar memvonis "ini hoaks" tanpa alasan.

Masyarakat sipil pun tidak tinggal diam menonton dari pinggir lapangan. Mafindo menjalankan TurnBackHoax.id sebagai gudang data periksa fakta, lalu menggandeng pengembang independen meluncurkan Ceksumber, alat pemeriksa hoaks berbasis AI yang tinggal dipakai lewat pesan WhatsApp, semudah menyapa teman lama. Kolaborasi ini juga merambah ke Google lewat Cekfakta.com, menyatukan Mafindo, Aliansi Jurnalis Independen, dan Asosiasi Media Siber Indonesia dalam satu barisan verifikasi.

Semua ini menegaskan satu hal yang barangkali sudah jadi rahasia umum: AI itu ibarat pisau bermata dua, arah tajamnya bergantung siapa yang menggenggam gagangnya. Kecerdasan buatan yang sama yang dipakai xAI melatih Grok secara real-time dari lini masa X, sampai-sampai sempat diblokir sementara oleh Kementerian Komunikasi dan Digital awal tahun ini, sejatinya bisa saja direkayasa untuk menjaga martabat manusia, asalkan sejak awal dirancang dengan penyelarasan etis yang tidak setengah hati.

Gagasan: Rantai Keaslian Digital dan Skor Bahaya Otomatis

Ada satu lapisan pertahanan yang jarang dilirik orang, yaitu blockchain sebagai penjaga jejak keaslian informasi. Kalau AI generatif adalah mesin yang memproduksi keraguan, teknologi buku besar terdistribusi ini bekerja dengan logika terbalik: mencatat asal-usul dan riwayat perubahan data secara permanen, tak bisa diutak-atik sepihak oleh siapa pun.

Dari pengalaman kami merancang sistem blockchain untuk penyelesaian sengketa informasi elektronik bagi Komisi Informasi Pusat, ditambah sistem keterlacakan berbasis blockchain pada rantai pasok halal global bersama Badan Penyelenggara Jaminan Produk Halal, kami meyakini ada satu langkah yang belum pernah diusulkan secara utuh di negeri ini: menyatukan pencatatan asal-usul konten, penilaian bahaya oleh AI, dan mekanisme sengketa hukum, dalam satu arsitektur yang saling mengunci.

Konsepnya sebenarnya tidak rumit, cuma belum ada yang berani menjalankannya sampai skala nasional. Bayangkan begini: setiap konten hasil AI generatif wajib dibubuhi tanda tangan kriptografis dan dicatat waktunya pada buku besar terdistribusi nasional sebelum boleh beredar di platform digital yang beroperasi di Indonesia. Bukan sekadar watermark tempelan yang gampang dihapus sekali klik, melainkan jejak yang tertanam di tingkat protokol, mustahil dipalsukan tanpa ketahuan.

Begitu ada konten dilaporkan warganet, model AI penilai independen langsung menghitung skor bahayanya, mengukur seberapa besar potensi fitnah atau ujaran kebencian yang dikandungnya, lalu meneruskan kasus berskor tinggi ke jalur penyelesaian sengketa informasi seperti yang tengah kami bangun untuk Komisi Informasi Pusat. Dengan begitu, verifikasi asal-usul, deteksi bahaya, dan penegakan hukum tidak lagi jalan sendiri-sendiri seperti tiga anak panah yang meleset ke arah berbeda, melainkan satu rantai kepercayaan yang bergerak serentak. Inilah jembatan yang mempertemukan ilmu komputasi cerdas dengan ilmu penyelesaian sengketa, dua bidang yang selama ini seperti dua jalan paralel yang jarang bersinggungan dalam kebijakan digital Indonesia.

Regulasi Bukan Sekadar Formalitas

Kekuatan teknis saja tidak akan cukup tanpa payung hukum yang berdiri tegak. Undang-Undang Informasi dan Transaksi Elektronik serta Undang-Undang Perlindungan Data Pribadi menjadi fondasi untuk menuntut akuntabilitas Penyelenggara Sistem Elektronik, termasuk platform global yang meraup untung besar di tanah air. Pemerintah pun sudah melangkah lebih spesifik lewat Peraturan Pemerintah Nomor 17 Tahun 2025 tentang Tata Kelola Penyelenggaraan Sistem Elektronik untuk Perlindungan Anak, atau yang lebih dikenal PP TUNAS, lahir langsung dari kegelisahan atas dampak deepfake terhadap kelompok rentan. Menuntut kepatuhan platform global bukan berarti anti-inovasi. Ini soal menjaga kedaulatan informasi bangsa agar tidak jadi tumbal kepentingan ekonomi pemain teknologi asing yang kadang bertindak seolah berada di atas hukum negara mana pun.

Literasi dan Nurani sebagai Firewall Terakhir

Namun, regulasi dan algoritma deteksi hanyalah separuh jalan, bukan garis akhir. Riset Alamsyah dan Lestari dari Universitas Swadaya Gunung Jati yang terbit di Jurnal Sibatik 2026 menemukan hal yang cukup menohok: banyak pengguna media sosial gagal mengevaluasi informasi visual secara kritis, bukan karena niatnya jahat, tapi semata karena tidak pernah dibekali kemampuan itu sejak awal. Jadi, beban verifikasi tidak boleh sepenuhnya dilimpahkan ke pundak individu. Ujaran kebencian dan fitnah tidak selalu datang berbungkus hoaks yang gampang dikenali, kadang ia menyelinap dalam informasi yang faktanya benar, tapi dibungkus niat yang busuk.

Di titik inilah pentingnya ekosistem verifikasi yang bergotong royong antara pemerintah, platform, akademisi, media, dan komunitas relawan seperti Mafindo yang kini merambah 44 wilayah di Indonesia. Sehebat apa pun teknologi deteksinya, semua itu sia-sia belaka kalau masyarakat masih gampang terpancing emosi oleh judul provokatif dan malas menelusuri kebenaran sebelum jarinya menekan tombol bagikan.

Menuju Kedaulatan Digital yang Bernurani

Kita bukan sedang bicara soal membendung laju inovasi, sebab itu jelas mustahil, dan sesungguhnya juga tidak perlu dilakukan. Yang dibutuhkan adalah keberanian menavigasi risikonya dengan kompas kemanusiaan yang tidak boleh meleset sedikit pun, seperti nakhoda yang tetap tenang di tengah ombak besar. Indonesia sebenarnya sudah punya modal untuk itu, mulai dari inisiatif deteksi hoaks karya peneliti dalam negeri sampai kolaborasi lintas sektor seperti Cekfakta.com.

Sebagai gambaran, BRAIN IPB University sendiri sudah merintis penerapan kecerdasan buatan untuk sistem penyelesaian sengketa informasi publik, uji ketahanan keamanan siber layanan kesehatan nasional bersama BPJS Kesehatan, sampai model keterlacakan berbasis blockchain untuk menjaga integritas data pangan. Ini bukti nyata bahwa kedaulatan digital bisa dirajut dari laboratorium dan kampus dalam negeri, bukan sekadar jargon di panggung seminar.

Tugas ke depan adalah memastikan generasi muda Indonesia berhenti jadi penonton di bangku pinggir sementara algoritma asing bertarung di lapangan tengah. Mereka harus berani turun sebagai perancang sistem verifikasi dan arsitek etika digital bangsanya sendiri. Sebab pada akhirnya, pertarungan melawan disinformasi, fitnah, dan kebencian bukan soal siapa punya mesin paling canggih, melainkan siapa yang berhasil menitipkan ruh kemanusiaan ke dalam setiap baris kodenya, sekecil apa pun baris itu tampak di layar.

Disclaimer: Pandangan yang disampaikan dalam tulisan di atas adalah pendapat pribadi penulisnya yang belum tentu mencerminkan sikap Republika soal isu-isu terkait.