X Blokir Fitur Edit Foto AI Grok Cegah Konten Eksplisit
UPBERITA.COM - Platform media sosial X secara resmi membatasi kemampuan kecerdasan buatan (AI) Grok untuk mengedit foto orang asli menjadi pakaian terbuka, menyusul kekhawatiran global dan potensi ancaman pemblokiran di berbagai negara. Pembatasan ini berlaku bagi seluruh pengguna, termasuk pelanggan berbayar, demi mencegah penyebaran konten deepfake seksual.
Langkah tegas ini diambil oleh X sebagai respons terhadap penyelidikan yang dilancarkan oleh Jaksa Agung California terkait penyebaran deepfake seksual yang dihasilkan oleh model Grok, serta menyikapi ancaman pemblokiran dari negara seperti Indonesia dan Malaysia. Regulator di Inggris juga telah menyuarakan keprihatinan dan tengah melakukan investigasi.
X menegaskan bahwa pembatasan ini ditujukan untuk mencegah penyalahgunaan teknologi AI dalam menghasilkan konten yang melanggar hukum atau kebijakan platform. Pengguna yang mencoba menghasilkan gambar orang dalam pakaian minim atau serupa akan dihentikan sistemnya sesuai dengan hukum yang berlaku di yurisdiksi masing-masing.
"Pembatasan ini berlaku untuk semua pengguna, termasuk pelanggan berbayar," bunyi pengumuman resmi dari X.
Pengetatan Akses dan Perlindungan Pengguna
Saat ini, fitur pengeditan gambar menggunakan Grok hanya dapat diakses oleh pengguna berbayar. X mengklaim bahwa kebijakan ini menjadi lapisan perlindungan tambahan untuk memastikan akuntabilitas pengguna yang mungkin mencoba menyalahgunakan teknologi tersebut. Dengan adanya pembatasan ini, diharapkan dapat meredakan kemarahan publik secara global dan menghindari sanksi hukum yang lebih berat bagi platform milik Elon Musk tersebut.
