Komdigi Blokir Sementara Grok untuk Cegah Konten Pornografi Buatan AI
UPBERITA.COM - Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) mengambil langkah tegas dengan memutus akses sementara terhadap aplikasi Grok. Keputusan ini diambil sebagai upaya proteksi terhadap masyarakat, khususnya perempuan dan anak-anak, dari potensi penyebaran konten pornografi palsu yang dihasilkan oleh teknologi kecerdasan buatan (AI).
Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa kebijakan ini merupakan wujud tanggung jawab negara dalam menciptakan ruang digital yang aman, beretika, dan menghargai hak asasi manusia. Ia menyatakan, "Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital."
Lebih lanjut, Meutya Hafid menjelaskan bahwa pembuatan dan penyebaran konten pornografi palsu tanpa persetujuan objeknya merupakan bentuk kekerasan berbasis digital yang dapat menimbulkan dampak merugikan secara psikologis, sosial, maupun hukum bagi korban.
Pemutusan akses sementara terhadap Grok ini bersifat preventif dan korektif. Pemerintah berupaya memastikan setiap platform digital yang beroperasi di Indonesia memiliki mekanisme pengamanan yang memadai untuk mencegah penyalahgunaan dalam memproduksi atau menyebarluaskan konten terlarang.
Klarifikasi Diminta dari Platform X
Selain pemblokiran sementara, Komdigi juga telah mengajukan permintaan kepada Platform X untuk segera memberikan klarifikasi. Tujuannya adalah untuk menjelaskan dampak negatif dari penggunaan Grok dan menyampaikan langkah-langkah mitigasi yang akan diambil guna mencegah terulangnya penyalahgunaan teknologi serupa.
"Kementerian Komunikasi dan Digital juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok," ujar Meutya.
Tindakan pemblokiran ini didasarkan pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, yang mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) untuk tidak memfasilitasi atau menyebarluaskan informasi elektronik yang dilarang oleh peraturan perundang-undangan.
Sebelumnya, Grok menuai kritik global karena memungkinkan pengguna menghasilkan gambar bernuansa pornografi. Meskipun Grok menyatakan fitur ini hanya untuk pelanggan berbayar di X, banyak pihak menuding aplikasi tersebut dapat diakses secara bebas untuk membuat gambar tanpa berlangganan. Beberapa negara seperti Inggris, Uni Eropa, dan India telah mengecam X dan Grok atas masalah ini, serta meminta xAI untuk mengambil tindakan perbaikan.
Sumber : Antara
