INFOTANGERANG.ID- Kementerian Komunikasi dan Digital (Komdigi) memberi peringatan keras kepada platform X dan layanan kecerdasan buatan Grok AI.
Keduanya terancam dikenakan sanksi administratif hingga pemutusan akses apabila tidak patuh dan kooperatif terhadap regulasi yang berlaku di Indonesia.
Peringatan ini muncul menyusul dugaan penyalahgunaan fitur AI Grok yang dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi tanpa persetujuan pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menegaskan bahwa X sebagai Penyelenggara Sistem Elektronik (PSE) memiliki kewajiban penuh untuk mematuhi hukum nasional.
Menurutnya, baik penyedia layanan kecerdasan buatan maupun pengguna yang terbukti membuat atau menyebarkan konten pornografi, termasuk manipulasi citra pribadi tanpa hak, dapat dijerat sanksi administratif maupun pidana.
Konten Pornografi Diatur dalam KUHP Baru
Sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang KUHP pada 2 Januari 2026, aturan terkait pornografi diperjelas melalui beberapa pasal.
1. Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan.
2. Pasal 407 mengatur ancaman pidana penjara paling singkat 6 bulan dan paling lama 10 tahun, atau pidana denda sesuai ketentuan hukum.
Ketentuan ini berlaku bagi siapa pun yang terbukti terlibat dalam produksi maupun distribusi konten pornografi, termasuk yang dihasilkan melalui teknologi AI.
Korban Deepfake Grok AI Diminta Tempuh Jalur Hukum
Alexander menegaskan bahwa masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri memiliki ruang untuk menempuh upaya hukum.
Langkah tersebut dapat dilakukan melalui:
- Pelaporan kepada aparat penegak hukum
- Pengaduan resmi ke Komdigi
Ia mengingatkan bahwa ruang digital bukan wilayah bebas aturan.
“Ruang digital bukan ruang tanpa hukum. Ada privasi dan hak atas citra diri setiap warga yang wajib dihormati dan dilindungi,” tegasnya.
Grok AI Dinilai Belum Punya Pengaman Memadai
Berdasarkan penelusuran awal Komdigi, Grok AI dinilai belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah pembuatan serta penyebaran konten pornografi berbasis foto nyata warga Indonesia.
Kondisi ini berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image), terutama ketika foto seseorang dimanipulasi atau disebarluaskan tanpa izin yang sah.
Alexander menilai manipulasi digital terhadap foto pribadi bukan sekadar pelanggaran kesusilaan, tetapi juga bentuk perampasan kendali individu atas identitas visualnya, yang dapat berdampak serius secara psikologis, sosial, hingga reputasi korban.
Saat ini, Komdigi tengah berkoordinasi dengan berbagai PSE untuk memastikan tersedianya mekanisme perlindungan yang efektif. Langkah yang didorong antara lain:
- Penguatan sistem moderasi konten
- Pencegahan pembuatan deepfake asusila
- Prosedur penanganan cepat atas laporan pelanggaran privasi
“Setiap PSE wajib memastikan teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tutup Alexander.
Follow WhatsApp Channel Infotangerang
