17 hours ago
3
Jakarta, CNBC Indonesia - Apple dilaporkan mengancam akan menghapus Grok, aplikasi kecerdasan buatan milik Elon Musk, dari App Store setelah lonjakan konten deepfake seksual tanpa persetujuan membanjiri platform X.
Menurut laporan NBC News, Apple diam-diam menghubungi tim pengembang X dan Grok pada Januari lalu setelah menerima banyak keluhan serta pemberitaan terkait penyalahgunaan teknologi tersebut. Apple meminta pengembang segera menyusun rencana untuk memperkuat moderasi konten.
Saat itu, Grok yang dikembangkan xAI dapat diakses bebas baik di X maupun sebagai aplikasi mandiri. Perlindungan yang lemah membuat pengguna dengan mudah membuat gambar seksual hasil manipulasi AI, termasuk fitur "undress" terhadap foto orang nyata. Korbannya disebut didominasi perempuan dan sebagian diduga masih di bawah umur.
Apple menilai kondisi tersebut melanggar pedoman App Store yang biasanya ditegakkan secara ketat. Dalam evaluasinya, Apple menyebut X telah secara substansial memperbaiki pelanggaran, sementara Grok masih belum memenuhi aturan. Apple bahkan memperingatkan aplikasi tersebut bisa dihapus jika tidak ada perubahan tambahan, demikian dikutip dari The Verge, Kamis (16/4/2026).
Setelah proses negosiasi panjang, Apple akhirnya menyatakan Grok telah meningkatkan moderasi dan mengizinkan aplikasi tetap tersedia di App Store. Namun selama proses itu berlangsung, Grok dan X tetap bisa diunduh pengguna.
Sejumlah perubahan pun diperkenalkan, seperti membatasi akses Grok hanya untuk pelanggan berbayar serta upaya menghentikan fitur "undress".
Meski demikian, investigasi menunjukkan langkah tersebut belum efektif dan masih mudah diakali. Sumber keamanan siber bahkan mengungkap Grok masih dapat menghasilkan deepfake seksual tokoh publik dengan relatif mudah.
Uji coba juga menunjukkan pengguna masih bisa membuat gambar eksplisit menggunakan alat tersebut. Penulis laporan juga berhasil membuat gambar serupa dari dirinya sendiri dan orang dewasa lain yang memberikan persetujuan. NBC News melaporkan temuan serupa.
(dem/dem)
Add
as a preferred
source on Google
