INFOTANGERANG.ID- Teknologi Grok AI kembali menjadi pusat perhatian internasional.
Kali ini, sorotan datang dari Amerika Serikat setelah tiga senator Partai Demokrat mendesak Apple dan Google untuk menangguhkan aplikasi X dan Grok AI dari toko aplikasi masing-masing.
Desakan tersebut muncul menyusul kekhawatiran serius terkait maraknya konten gambar eksplisit dan deepfake bermuatan seksual yang dapat dibuat dan disebarkan pengguna tanpa persetujuan korban.
Dalam surat terbuka yang ditujukan kepada CEO Apple Tim Cook dan CEO Google Sundar Pichai, Senator Ron Wyden, Ed Markey, dan Ben Ray Luján menilai Apple dan Google harus segera bertindak tegas.
Mereka meminta kedua raksasa teknologi itu menghapus aplikasi X dan Grok AI dari toko aplikasi, setidaknya sampai pemilik perusahaan, Elon Musk, mengambil langkah konkret untuk menghentikan praktik yang dinilai berbahaya dan berpotensi melanggar hukum.
Menurut para senator, membiarkan aplikasi tersebut tetap tersedia sama saja dengan menutup mata terhadap lemahnya moderasi konten.
Hal ini, kata mereka, dapat merusak klaim Apple dan Google bahwa toko aplikasi mereka menawarkan pengalaman digital yang aman bagi pengguna.
Grok AI Disebut Mempermudah Penyebaran Deepfake
Salah satu sorotan utama dalam surat tersebut adalah kemampuan Grok AI dan platform X yang memungkinkan pengguna dengan mudah membuat gambar deepfake eksplisit, termasuk visual yang menampilkan individu tanpa izin mereka.
Tak hanya itu, Grok AI juga dilaporkan digunakan untuk menghasilkan gambar yang merendahkan seseorang berdasarkan ras atau etnis, memicu kekhawatiran terkait penyalahgunaan kecerdasan buatan.
Isu ini telah memicu penyelidikan dan kritik di berbagai negara, mulai dari Eropa, Australia, Malaysia, India, hingga Indonesia.
Namun hingga kini, Komisi Perdagangan Federal (FTC) dan Departemen Kehakiman AS belum memastikan apakah akan membuka penyelidikan resmi terhadap perusahaan AI milik Musk, xAI.
Laporan CNN mengungkapkan bahwa pembaruan Grok AI yang minim fitur pengaman disebut merupakan permintaan langsung dari Elon Musk.
Situasi ini bahkan memicu gejolak internal.
Tiga staf xAI yang tergabung dalam tim keamanan AI dikabarkan memilih mengundurkan diri setelah adanya tuntutan tersebut, memperkuat sorotan terhadap tata kelola keamanan dan etika pengembangan Grok AI.
Apple dan Google Punya Rekam Jejak Penangguhan Aplikasi
Apple dan Google sendiri dikenal memiliki pedoman ketat terkait konten berbahaya, termasuk kewajiban pengembang untuk mencegah penyebaran konten eksploitasi seksual, pelecehan, dan materi ilegal lainnya.
Sebelumnya, beberapa platform media sosial seperti Tumblr dan Telegram pernah mengalami penangguhan dari App Store karena dinilai gagal mengendalikan konten tidak pantas.
Di tengah tekanan global dan kritik tajam, xAI justru mencatatkan putaran pendanaan jumbo senilai USD 20 miliar.
Sejumlah investor besar ikut ambil bagian, termasuk Nvidia, Cisco Investments, serta investor lama Elon Musk seperti Valor Equity Partners, Fidelity, Qatar Investment Authority, MGX Abu Dhabi, dan Baron Capital Group.
Pendanaan ini menegaskan betapa besar kepercayaan investor terhadap potensi Grok AI, meski tantangan etika dan regulasi terus membayangi.
Respons Elon Musk dan X Soal Grok AI
Menanggapi gelombang kritik, pada awal Januari lalu, pihak X dan Elon Musk menyatakan bahwa siapa pun yang menggunakan Grok AI untuk membuat konten ilegal akan dikenai konsekuensi, sama seperti pengguna yang mengunggah konten terlarang secara langsung.
Namun, laporan media menyebut langkah tersebut belum sepenuhnya efektif.
Meski fitur pembuatan gambar Grok AI kini hanya tersedia bagi pengguna berbayar, aplikasi dan situs Grok masih memungkinkan perintah yang berpotensi menelanjangi, menseksualisasi, atau merendahkan individu tanpa persetujuan.
Kontroversi ini menempatkan Grok AI di persimpangan krusial antara inovasi teknologi dan tanggung jawab moral.
Tekanan dari regulator, politisi, hingga publik kini menuntut transparansi dan perlindungan yang lebih kuat bagi pengguna.
Apakah Apple dan Google akan mengambil langkah tegas, atau justru menunggu komitmen nyata dari Elon Musk, masih menjadi pertanyaan besar di tengah cepatnya perkembangan kecerdasan buatan global.
Follow WhatsApp Channel Infotangerang
