Platform media sosial milik Elon Musk, X, baru saja mengupdate kebijakan terkait fitur kontroversialnya, Grok. Grok sebelumnya dikenal karena kemampuannya mengedit gambar orang nyata menjadi berpakaian terbuka seperti bikini, namun kini fitur tersebut telah dibatasi untuk pengguna berbayar. Melalui akun @safety, X menyatakan bahwa pembatasan ini diterapkan melalui sistem teknologi baru untuk mencegah penyalahgunaan Grok dalam pembuatan deepfake seksual tanpa persetujuan, terutama yang melibatkan perempuan dan bahkan anak-anak.
Sebelumnya, X sudah membatasi fitur pengeditan gambar hanya untuk pengguna berbayar namun masih ada celah untuk menggunakan fitur tersebut tanpa bayar. Namun, dengan pembaruan terbaru, X mengklaim telah menutup celah tersebut, setidaknya untuk akun Grok di platform mereka. Selain itu, X juga mulai menerapkan pemblokiran berbasis wilayah untuk pembuatan gambar orang nyata dengan pakaian minim di negara-negara yang melarang praktik tersebut.
Di Indonesia, Kementerian Komunikasi dan Digital sempat memblokir akses ke Grok karena konten kontroversial dan potensi penyalahgunaan teknologi tersebut. Sementara itu, di Amerika Serikat, tekanan hukum terus meningkat dengan Jaksa Agung California menyelidiki X dan xAI serta sejumlah senator mendesak Apple dan Google agar mempertimbangkan penghapusan aplikasi X dari toko aplikasi mereka.
Elon Musk sendiri telah memberi peringatan bahwa pengguna Grok yang menggunakan fitur untuk membuat konten ilegal akan menghadapi konsekuensi yang serius. Namun, masih menjadi pertanyaan apakah kebijakan baru ini akan efektif dalam mencegah penyalahgunaan Grok atau hanya menambah lapisan pembatas yang masih bisa ditembus.
