Bacaini.ID, KEDIRI – Chatbot AI Grok telah diblokir sementara oleh Pemerintah Indonesia menyusul adanya penyalahgunaan yang mengarah pada pornografi.
Grok merupakan chatbot AI milik platform media sosial X atau Twitter. Sebelumnya pihak X mengizinkan pengguna memakai Grok baik berbayar maupun yang gratis untuk memproduksi gambar atau foto porno.
Maraknya konten pornografi palsu yang dihasilkan oleh Grok akhirnya mendapat reaksi keras dari pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi).
Komdigi sejak Sabtu (10/1) telah memblokir sementara akses chatbot AI Grok. Langkah yang diambil sebagai upaya melindungi perempuan, anak, dan masyarakat luas dari risiko penyebaran konten pornografi palsu yang dibuat dengan teknologi kecerdasan buatan (AI).
Langkah tegas pemerintah Indonesia ini menjadi yang pertama dan mendapat apresiasi masyarakat dunia di media sosial. Kebijakan ini juga telah diikuti pemerintah Malaysia yang juga memblokir Grok sejak Minggu (11/1).
Baca Juga: Threads Uji Coba Postingan 24 Jam, Mampu Kalahkan X (Twitter)?
Menteri Komunikasi dan Digital Meutya Hafid, dalam keterangan resminya di Jakarta Sabtu (10/1) menyatakan kebijakan pemblokiran bentuk tanggung jawab negara dalam menjaga ruang digital tetap aman, beretika, dan menghormati hak asasi manusia.
Menurutnya, praktik pembuatan konten pornografi berbasis deepfake tanpa persetujuan korban merupakan pelanggaran serius yang tidak bisa ditoleransi.
Ia menegaskan, penggunaan teknologi AI untuk memproduksi dan menyebarluaskan konten pornografi palsu tanpa persetujuan merupakan bentuk kekerasan berbasis digital.
Dampaknya tidak hanya merugikan korban secara psikologis, tetapi juga dapat menimbulkan konsekuensi sosial dan hukum yang panjang.
Pemutusan akses terhadap Grok bersifat sementara dan dilakukan sebagai langkah preventif sekaligus korektif dan memastikan setiap platform digital yang beroperasi di Indonesia memiliki sistem pengamanan yang memadai agar tidak disalahgunakan untuk memproduksi atau menyebarkan konten terlarang.
Klarifikasi X terkait pemblokiran Grok
Selain memblokir akses, Komdigi juga telah meminta platform X, sebagai pihak terkait, untuk segera memberikan klarifikasi.
Klarifikasi tersebut diperlukan guna menjelaskan dampak negatif penggunaan Grok serta langkah mitigasi yang akan ditempuh untuk mencegah terulangnya penyalahgunaan teknologi AI di masa mendatang.
Grok menuai kritik luas dari berbagai negara karena dinilai memungkinkan pengguna membuat gambar bernuansa pornografi.
Dalam pernyataannya, Grok menyebut hanya pelanggan berbayar di platform X yang dapat membuat dan mengedit gambar. Namun, sejumlah pihak menuding fitur tersebut tetap bisa diakses oleh pengguna non-berlangganan atau gratis.
Kritik terhadap Grok juga datang dari berbagai negara. Inggris, Uni Eropa, dan India secara terbuka mengecam kebijakan tersebut. Uni Eropa bahkan meminta X menyimpan seluruh dokumentasi terkait pengembangan dan penggunaan chatbot Grok.
Sementara itu, India dikabarkan telah memerintahkan platform X untuk segera melakukan perubahan guna menghentikan penyalahgunaan fitur pembuatan gambar, dengan ancaman pencabutan perlindungan safe harbor jika tidak dipatuhi. Lembaga pengawas komunikasi Inggris juga menyatakan telah menghubungi pengembang X untuk meminta penjelasan terkait isu ini.
Penulis: Bromo Liem
Editor: Solichan Arif
