INFOTANGERANG.ID- Kecerdasan buatan Grok AI, yang dikembangkan oleh xAI dan terintegrasi langsung di platform media sosial X, kembali menjadi pusat kontroversi global.
Kali ini, sorotan datang dari Internet Watch Foundation (IWF), lembaga pemantau konten daring asal Inggris, yang mengungkap dugaan penyalahgunaan AI tersebut untuk membuat gambar seksual yang melibatkan anak-anak.
Dalam laporan terbarunya, IWF menyebut hasil analisis mereka menemukan sejumlah gambar yang diduga dihasilkan oleh fitur Grok AI Imagine.
Gambar-gambar tersebut menampilkan anak-anak berusia sekitar 11 hingga 13 tahun dalam pose yang bersifat seksual dan tidak pantas.
Lebih mengkhawatirkan lagi, temuan tersebut disebut beredar di forum-forum gelap (dark web).
Di ruang ilegal itu, sejumlah pengguna bahkan dilaporkan secara terbuka membanggakan kemampuan Grok AI dalam menciptakan konten terlarang tersebut.
Informasi ini pertama kali diungkap oleh media Inggris, BBC, pada Jumat (9/1/2026).
Kasus ini menambah daftar panjang polemik seputar Grok AI.
Sebelumnya, AI tersebut juga menuai kecaman luas karena kemampuannya mengubah foto individu menjadi gambar vulgar atau bernuansa seksual tanpa persetujuan pemilik foto.
Kekhawatiran Global Terkait Penggunaan Grok AI
Kelompok pengawas digital dan pengguna di berbagai negara, termasuk Indonesia, menilai fitur AI semacam ini membuka celah besar terhadap penyalahgunaan teknologi.
Tanpa sistem pembatasan dan moderasi yang ketat, AI dinilai berpotensi menjadi alat produksi konten ilegal yang berbahaya.
Kekhawatiran tersebut mendorong respons cepat dari Ofcom, regulator komunikasi Inggris.
Otoritas tersebut telah melakukan kontak darurat dengan pihak X dan xAI untuk meminta klarifikasi terkait dugaan pelanggaran kewajiban keselamatan daring.
Ofcom menyatakan akan menilai lebih lanjut apakah kasus ini mengarah pada pelanggaran hukum, khususnya terkait kemampuan AI menghasilkan visual yang mengeksploitasi anak secara seksual.
Tekanan internasional juga datang dari Uni Eropa.
Sejumlah pejabat Komisi Eropa menegaskan bahwa konten seksual anak, termasuk yang dihasilkan oleh AI, bukan sekadar konten sugestif, melainkan ilegal dan tidak dapat ditoleransi dalam bentuk apa pun.
Sementara itu, di Inggris, Commons Women and Equalities Committee mengambil langkah tegas dengan menghentikan penggunaan platform X sebagai salah satu kanal komunikasi resmi mereka.
Keputusan ini diambil sebagai bentuk protes terhadap skandal konten AI eksplisit yang dinilai gagal dikendalikan.
Respons X dan xAI
Menanggapi gelombang kritik dan tekanan regulator, pihak X dan xAI melalui pernyataan resmi menyebut akan menghapus seluruh konten ilegal, termasuk materi eksploitasi anak, serta menangguhkan akun yang terbukti melanggar kebijakan platform.
Perusahaan milik Elon Musk tersebut juga menyatakan komitmen untuk bekerja sama dengan pemerintah dan aparat penegak hukum di berbagai negara guna memastikan kepatuhan terhadap regulasi yang berlaku.
Namun demikian, kritik terhadap xAI belum mereda.
Banyak pihak menilai kebijakan internal dan sistem moderasi Grok masih lemah, terutama dalam mencegah atau memblokir perintah yang berpotensi menghasilkan konten ilegal dan berbahaya.
Follow WhatsApp Channel Infotangerang
