Pemerintah Indonesia membuat Grok diblokir pada 10 Januari 2026, menjadikannya negara pertama yang memutus akses ke chatbot AI milik xAI itu karena dipakai membuat deepfake seksual tanpa persetujuan. Kasus ini penting karena menunjukkan bahwa penyedia platform AI kini diminta bertanggung jawab atas rancangan pengaman produknya, bukan hanya atas laporan dari pengguna.
Apa yang Terjadi: Grok Diblokir di Indonesia
Per 29 Oktober 2026, rangkaian peristiwanya sudah jelas dan seluruhnya tercatat di media. Pada Sabtu, 10 Januari 2026, Menteri Komunikasi dan Digital Meutya Hafid mengumumkan bahwa pemerintah memblokir sementara akses ke Grok. Alasannya, deepfake seksual nonkonsensual disebut sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga di ruang digital. Tujuan yang dinyatakan adalah melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu buatan AI. Menurut KompasTekno, dasar hukumnya adalah Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020, khususnya Pasal 9, yang mewajibkan penyelenggara sistem elektronik memastikan sistemnya tidak memuat, memfasilitasi, atau menyebarkan informasi elektronik yang dilarang.
Menurut laporan Al Jazeera, sehari sebelumnya Grok sudah membatasi pembuatan dan penyuntingan gambar di platform X hanya untuk pelanggan berbayar setelah kritik menguat. Al Jazeera mencatat bahwa Grok sebelumnya memungkinkan pengguna mengubah foto yang beredar di internet sehingga pakaian subjeknya dihilangkan. Kementerian juga memanggil perwakilan X untuk meminta penjelasan.
Kronologi Singkat
- 9 Januari 2026: Grok membatasi fitur gambar di X untuk pelanggan berbayar. Kritik tetap berlanjut. Kantor Perdana Menteri Inggris menyebut langkah itu bukan solusi, dan pejabat Eropa serta pegiat teknologi menilainya tidak menjawab kekhawatiran mereka.
- 10 Januari 2026: Komdigi mengumumkan pemblokiran sementara Grok. Menurut pengecekan KompasTekno, yang tidak dapat diakses adalah Grok.com, situs X.AI, dan aplikasi mandiri Grok, sedangkan Grok di dalam X masih dapat dibuka lewat tab Grok.
- 11 Januari 2026: regulator Malaysia (MCMC) menyusul memblokir sementara Grok, dengan alasan X hanya menekankan mekanisme pelaporan oleh pengguna dan tidak menangani risiko yang melekat pada rancangan alatnya.
- 1 Februari 2026: Komdigi mulai membuka kembali akses setelah X Corp mengirim surat komitmen tertulis kepada Menteri. Pembukaan ini bersyarat dan terus dipantau.
Artinya pemblokiran berlangsung sekitar tiga minggu. Menurut Kompas.com, Direktur Jenderal Pengawasan Ruang Digital Alexander Sabar menegaskan bahwa komitmen tersebut menjadi dasar evaluasi, bukan akhir dari pengawasan, dan Komdigi dapat menghentikan akses kembali jika ditemukan ketidaksesuaian atau pelanggaran lanjutan.
Mengapa Grok Diblokir: Deepfake Seksual sebagai Pelanggaran Serius
Deepfake seksual berbeda dari hoaks biasa. Korban tidak perlu melakukan apa pun selain pernah mengunggah satu foto wajah. Dari gambar itu, model AI dapat membuat citra seksual yang tampak meyakinkan, lalu menyebar dalam hitungan menit. Dampaknya nyata: tekanan psikologis, rusaknya reputasi, pemerasan, hingga ancaman terhadap pekerjaan dan keluarga korban. Bila subjeknya anak, persoalannya masuk ranah perlindungan anak yang jauh lebih berat.
Di Indonesia, pembuatan dan penyebaran konten semacam ini bersinggungan dengan beberapa aturan, antara lain ketentuan tentang kekerasan seksual berbasis elektronik dalam UU Nomor 12 Tahun 2022 tentang Tindak Pidana Kekerasan Seksual, aturan pornografi, dan UU Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi, yang dalam penjelasannya menyebut gambar wajah sebagai contoh data biometrik. Detail penerapan pasal tertentu sebaiknya ditanyakan kepada penasihat hukum. Pembahasan lebih luas tentang pola penipuan dan manipulasi berbasis AI ada di artikel kami Deepfake dan Penipuan Berbasis AI di Indonesia.
Tanggung Jawab Platform AI: Apa yang Sebenarnya Diminta Regulator
Pelajaran terpenting dari kasus ini adalah argumen regulatornya. MCMC menyebut tanggapan X berfokus pada laporan dari pengguna, padahal risikonya sudah tertanam dalam rancangan alat. Artinya, penyedia diharapkan mengamankan produk sejak awal, bukan menunggu korban melapor lalu menghapus konten satu per satu. Dari sini dapat dirangkum beberapa ekspektasi yang masuk akal bagi platform AI generatif:
- Pengaman teknis pada model, misalnya menolak permintaan yang menelanjangi foto orang nyata.
- Pembatasan fitur penyuntingan gambar pada foto yang menampilkan orang yang dapat dikenali.
- Kebijakan internal yang ditegakkan, serta protokol respons insiden saat penyalahgunaan terjadi.
- Kepatuhan sebagai penyelenggara sistem elektronik (PSE) di Indonesia dan kesediaan bekerja sama dengan pemerintah.
Perlu dicatat bahwa membatasi fitur hanya untuk pelanggan berbayar dinilai sejumlah pihak, termasuk kantor Perdana Menteri Inggris, bukan solusi, karena tidak menghilangkan kemampuan penyalahgunaannya. Komitmen X yang dilaporkan Kompas mencakup penguatan perlindungan teknis, pembatasan fitur tertentu, pengetatan kebijakan internal, dan aktivasi protokol respons insiden. Seberapa efektif penerapannya tidak dapat kami nilai dari sumber yang tersedia, sehingga kami tidak mengklaimnya.
Pemblokiran juga bukan penyelesaian jangka panjang. Ia efektif sebagai tekanan, tetapi pengaman yang benar hanya lahir dari rancangan produk, pengujian red team, dan pengawasan berkelanjutan. Topik regulasi AI yang lebih luas dibahas di Regulasi AI Indonesia 2026.
Relevansi untuk Pengguna dan Organisasi di Indonesia
Jika Anda atau seseorang yang Anda kenal menjadi korban gambar palsu seperti ini, langkah awal yang umum dianjurkan adalah sebagai berikut.
- Simpan bukti (tangkapan layar, tautan, waktu) sebelum konten dihapus, dan jangan menyebarkannya ulang.
- Laporkan konten ke platform tempat ia beredar dan ke kanal aduan resmi pemerintah.
- Cari pendampingan dari lembaga layanan korban kekerasan seksual atau penasihat hukum.
- Jika ada ancaman atau permintaan uang, jangan membayar dan segera laporkan ke pihak berwenang.
Bagi organisasi, risikonya ada pada karyawan, pelanggan, dan figur publik internal yang fotonya mudah diambil dari media sosial. Tambahkan skenario deepfake pada materi security awareness, sediakan jalur pelaporan yang jelas bagi karyawan, dan tinjau kebijakan penggunaan AI generatif di kantor. Tim yang membangun produk AI sendiri perlu memikirkan penyalahgunaan sejak tahap desain. Untuk program pelatihan yang disesuaikan, lihat halaman training Linuxhackingid.
Baca juga: Celah Alat Dukungan AI Meta dan Risiko Pembajakan Akun Instagram.
Pertanyaan yang Sering Diajukan
Apakah Grok masih diblokir di Indonesia?
Komdigi mulai membuka kembali akses pada 1 Februari 2026 setelah X Corp menyampaikan komitmen tertulis. Pembukaan itu bersyarat dan di bawah pengawasan, dan Komdigi menyatakan dapat menghentikan akses lagi bila ditemukan ketidaksesuaian atau pelanggaran lanjutan.
Apakah Indonesia satu-satunya negara yang memblokir Grok?
Indonesia adalah yang pertama pada 10 Januari 2026, dan Malaysia menyusul pada 11 Januari 2026 menurut Al Jazeera. Al Jazeera juga mencatat kecaman dari pejabat di sejumlah negara lain, antara lain Amerika Serikat, Inggris, Jerman, Prancis, dan Australia.
Apakah memakai AI untuk mengubah foto orang lain menjadi konten seksual itu legal?
Mengubah foto seseorang menjadi konten seksual tanpa persetujuannya dapat berujung pada masalah hukum serius di Indonesia, dan jelas merugikan korban. Selalu minta izin dan jangan membuat atau menyebarkan konten semacam itu.
Kesimpulan
Kasus Grok menggeser pertanyaan dari "siapa yang mengunggah" ke "siapa yang merancang alatnya". Bagi pengguna, ini pengingat untuk membatasi foto pribadi yang terbuka dan tahu ke mana melapor. Bagi organisasi, ini alasan memasukkan risiko deepfake ke program kesadaran keamanan. Linuxhackingid menyediakan kursus dan pelatihan agar tim Anda memahami ancaman AI secara praktis dan bertanggung jawab.
Setiap artikel ditinjau pimpinan praktik yang menangani pekerjaannya sebelum terbit.