JAKARTA — Polemik seputar kecerdasan buatan Grok AI di platform X terus memanas dan berkembang menjadi isu lintas negara. Pembatasan fitur pembuatan dan penyuntingan gambar yang diberlakukan pemilik X, Elon Musk, dinilai sebagai langkah darurat di tengah tekanan publik dan pemerintah. Namun, kebijakan tersebut belum meredam kekhawatiran, bahkan memunculkan pertanyaan baru tentang tanggung jawab platform digital dalam mengelola teknologi AI generatif.
Sejak 9 Januari 2026 waktu Amerika Serikat, fitur pembuatan dan edit gambar Grok melalui unggahan di X dibatasi hanya untuk pelanggan X Premium. Pengguna gratis yang mencoba memanggil Grok dengan perintah @Grok akan menerima pesan otomatis yang menyatakan bahwa fitur tersebut hanya tersedia bagi pelanggan berbayar. Kebijakan ini diambil setelah muncul laporan luas mengenai penggunaan Grok AI untuk membuat konten pornografi dan gambar manipulatif yang menyerupai individu nyata.
Fenomena ini menjadi sorotan karena Grok AI memungkinkan pembuatan gambar yang terlihat realistis. Dalam konteks penyalahgunaan, foto seseorang dapat dimanipulasi menjadi konten asusila tanpa persetujuan. Praktik tersebut tidak hanya melanggar norma kesusilaan, tetapi juga berpotensi menghancurkan reputasi korban dan menimbulkan dampak psikologis jangka panjang. Di ruang digital, gambar semacam ini dapat menyebar dengan cepat dan sulit dihapus sepenuhnya.
Meski fitur tertentu telah dibatasi, sejumlah celah masih ditemukan. Pengguna gratis dilaporkan masih dapat membuat gambar melalui tab Grok yang tersedia langsung di aplikasi X. Selain itu, aplikasi Grok yang berdiri terpisah dari X juga belum menerapkan pembatasan serupa. Kondisi ini memicu kritik bahwa kebijakan yang diterapkan belum menyeluruh dan lebih bersifat pembatasan akses, bukan pencegahan substansial.
Kritik keras datang dari berbagai negara. Pemerintah Inggris menilai kebijakan berbasis langganan tidak menyentuh akar masalah. Menurut pandangan pemerintah setempat, inti persoalan terletak pada lemahnya sistem pengamanan AI, bukan pada status berbayar atau gratis pengguna. Selama Grok masih mampu menghasilkan konten ilegal, risiko penyalahgunaan tetap terbuka.
Komisi Eropa juga menyampaikan sikap tegas. Otoritas Uni Eropa menegaskan bahwa konten asusila tidak dapat ditoleransi dalam kondisi apa pun. Pembatasan akses dinilai tidak cukup jika tidak diikuti dengan penguatan sistem moderasi, penyaringan prompt, dan pencegahan teknis sejak awal pengembangan teknologi. Uni Eropa menyoroti pentingnya tanggung jawab platform dalam memastikan AI tidak menjadi alat pelanggaran hukum.
Di Amerika Serikat, polemik Grok AI berkembang ke ranah politik dan bisnis. Sejumlah senator dilaporkan mengirimkan surat kepada Apple dan Google untuk mendesak evaluasi terhadap keberadaan aplikasi X di toko aplikasi mereka. Permintaan tersebut didasarkan pada kekhawatiran bahwa platform X belum sepenuhnya memenuhi standar distribusi aplikasi, khususnya terkait perlindungan pengguna dari konten berbahaya.
Di Indonesia, respons pemerintah tidak kalah tegas. Kementerian Komunikasi dan Digital atau Komdigi menyatakan telah melakukan penyelidikan awal terhadap Grok AI. Pemerintah menilai praktik manipulasi foto menjadi konten asusila berpotensi melanggar privasi dan hak atas citra diri warga negara.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyampaikan bahwa hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto asli. Menurutnya, manipulasi digital terhadap foto pribadi bukan sekadar pelanggaran kesusilaan, tetapi juga bentuk perampasan kendali individu atas identitas visualnya.
Alexander menegaskan bahwa pelanggaran hak citra diri dapat menimbulkan kerugian serius. Korban berpotensi mengalami tekanan psikologis, stigma sosial, hingga rusaknya reputasi yang berdampak pada kehidupan pribadi dan profesional. Dalam konteks digital, dampak tersebut bisa berlangsung lama karena konten yang terlanjur tersebar sulit ditarik kembali.
Komdigi saat ini berkoordinasi dengan para Penyelenggara Sistem Elektronik untuk memastikan tersedianya mekanisme perlindungan yang efektif. Pemerintah mendorong penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi. Seluruh PSE diingatkan untuk bertanggung jawab atas teknologi yang mereka sediakan.
Pemerintah juga menegaskan bahwa kepatuhan terhadap hukum Indonesia bersifat wajib. Jika ditemukan ketidakpatuhan atau sikap tidak kooperatif, sanksi administratif hingga pemutusan akses layanan dapat diterapkan. Opsi pemblokiran layanan Grok AI maupun platform X disebut terbuka apabila pelanggaran dinilai serius dan berulang.
Ancaman sanksi ini diperkuat oleh berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana sejak 2 Januari 2026. Dalam KUHP baru, konten pornografi diatur secara tegas, termasuk ancaman pidana penjara dan denda bagi pihak yang memproduksi atau menyebarkan konten tersebut. Ketentuan ini juga membuka ruang tanggung jawab bagi penyedia layanan yang lalai melakukan pencegahan.
Kasus Grok AI menunjukkan bahwa kecerdasan buatan generatif membawa tantangan besar bagi tata kelola ruang digital. Di satu sisi, teknologi ini menawarkan efisiensi dan kemudahan luar biasa. Di sisi lain, tanpa pengamanan dan regulasi yang memadai, AI dapat menjadi alat pelanggaran privasi dan martabat manusia.
Polemik ini menandai krisis kepercayaan yang dihadapi platform X. Tekanan dari pemerintah dan publik global menunjukkan bahwa inovasi teknologi tidak bisa berjalan tanpa batas. Grok AI kini menjadi contoh nyata bahwa kemajuan kecerdasan buatan harus diimbangi dengan tanggung jawab, perlindungan hukum, dan penghormatan terhadap hak dasar setiap individu.