Beritakota.id, Jakarta – Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok.
Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital. Kementerian Komunikasi dan Digital juga juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok.
Baca juga : Komdigi Tetapkan Registrasi SIM Card Berbasis Face Recognition Mulai 2026
Menteri Komunikasi dan Digital, Meutya Hafid dalam pernyataan pada Sabtu (10/01/2026) menegaskan bahwa tindakan pemutusan akses dilakukan berdasarkan kewenangan Kementerian Komunikasi dan Digital sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9. Dalam pasal ini disebutkan bahwa setiap Penyelenggara Sistem Elektronik (PSE) wajib memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang.
Grok sendiri merupakan chatbot kecerdasan buatan (AI) yang dikembangkan oleh xAI, sebuah perusahaan AI milik Elon Musk, dan diposisikan sebagai assistant AI modern di dalam platform media sosial X (sebelumnya Twitter). Grok pertama kali diperkenalkan ke publik pada 2024, ketika antusiasme terhadap chatbot generatif AI sedang memuncak di seluruh dunia, seiring popularitas model-model seperti ChatGPT.
Dirancang untuk memberikan jawaban, merangkum konten, serta mendukung interaksi pengguna di media sosial dengan gaya yang lebih informal, kontekstual, dan kadang humoris, Grok semakin menarik perhatian karena kemampuannya menjawab pertanyaan yang kompleks sekaligus membaca tren yang sedang panas di platform X.
Namun tren penggunaan Grok segera berubah menjadi fenomena yang lebih bermasalah ketika fitur-fitur pembangkitan atau editing image AI digabungkan dalam platform ini, memungkinkan pengguna meminta Grok untuk memodifikasi foto, termasuk permintaan yang kontroversial.
Tren Deepfake dan Kontroversi Global
Pada akhir 2025, Grok menjadi sorotan global bukan karena kecanggihan jawaban teksnya, tetapi karena kemampuan AI-nya untuk menghasilkan gambar yang dimanipulasi secara digital, termasuk gambar seksual nonkonsensual (deepfake seksual) yang memicu kemarahan dan reaksi di berbagai negara.
Media internasional mencatat bahwa sejak peluncuran fitur edit image, Grok sering kali dipicu oleh permintaan konten seperti “nudify” atau “digitally undress her,” serta permintaan yang menghasilkan gambar perempuan maupun anak-anak dalam pakaian minim atau poses seksual. Analisis terhadap ratusan ribu gambar yang dihasilkan menunjukkan hingga sekitar 6.700 gambar seksual sugestif per jam, banyak di antaranya tanpa persetujuan orang yang digambarkan.
Respons global terhadap tren ini sangat cepat. Uni Eropa, Inggris, India, Malaysia dan negara lain telah mengeluarkan peringatan, penyelidikan, hingga ultimatum hukum kepada platform X dan pengembangnya, meminta mereka menghentikan penyebaran konten semacam itu dan memperbaiki sistem moderasi.
Beberapa negara bahkan menilai pembuatan atau distribusi gambar deepfake seksual sebagai pelanggaran hukum serius, terutama ketika melibatkan anak-anak atau materi yang melanggar undang-undang perlindungan anak.
Dampak Deepfake Seksual: Kekerasan Digital Baru
Walaupun kajian akademis panjang tentang dampak deepfake seksual yang dihasilkan Grok masih terus berkembang, sejumlah temuan awal dan reaksi pemerintahan serta lembaga advokasi menunjukkan beberapa dampak signifikan berupa Pelanggaran Privasi dan Hak atas Citra Diri. Manipulasi foto seseorang tanpa izin merupakan pelanggaran terhadap hak privasi dan hak atas citra diri, karena menghilangkan kendali individu terhadap representasi visual dirinya sendiri di ruang publik.
Kedua adalah potensi kerusakan psikologis dan sosial. Deepfake seksual memiliki potensi merusak reputasi, membawa stigma sosial, dan menciptakan trauma bagi korban yang digambarkan, khususnya bila disebarluaskan luas di ruang digital. Ini yang mendorong beberapa negara memasukkan kategori tersebut sebagai bentuk violence atau kekerasan berbasis digital dan gender.
Beberapa yurisdiksi telah mulai mempertimbangkan atau menerapkan penindakan hukum terhadap penyebaran konten semacam ini, termasuk kemungkinan penjatuhan sanksi terhadap platform yang gagal mencegahnya. Pemerintah Indonesia sendiri melalui Kementerian Komunikasi dan Digital telah memutus akses sementara Grok, mengkategorikan praktik ini sebagai ancaman buruk bagi hak asasi manusia dan keamanan digital masyarakat.
Kasus Grok bukanlah fenomena tunggal. Deepfake dan konten synthetic media telah meningkat secara signifikan sejak teknologi generatif AI berkembang pesat sejak awal 2020-an. Model AI yang mampu membuat gambar realistis dari teks telah digunakan dalam banyak konteks, positif maupun negatif. Regulasi global kini semakin mengejar fenomena ini, dengan fokus pada aspek keamanan digital, hak privasi, perlindungan anak, dan etika AI.
Sejumlah pakar menyoroti bahwa meskipun teknologi generatif bisa dimanfaatkan untuk tujuan artistik atau produktif, kekurangan mekanisme moderasi yang efektif berpotensi menyebabkan AI berperan sebagai alat baru untuk digital violence, sebuah tantangan hukum dan etika yang belum sepenuhnya siap ditangani era modern. (Lukman Hqeem)
