X Batasi Fitur Grok, Tak Lagi Izinkan Edit Foto Bermuatan Seksual

Perusahaan media sosial, X, baru saja mengambil kebijakan baru terkait fitur pengeditan gambar pada chatbot kecerdasan buatannya (AI), Grok. 

Langkah ini diambil setelah maraknya penyalahgunaan fitur edit foto terutama terkait pembuatan gambar bermuatan seksual tanpa persetujuan.

Hal tersebut menimbulkan kritik luas di berbagai negara, termasuk Indonesia. Sejumlah negara dilaporkan telah mengambil tindakan tegas terhadap Grok. 

Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi), serta Malaysia, disebut telah memblokir chatbot AI tersebut karena kekhawatiran terkait keamanan dan penanganan konten AI bermuatan seksual, termasuk pembuatan gambar seksual dan ketelanjangan tanpa persetujuan.

Dalam pernyataan yang dibagikan melalui akun @Safety di X, perusahaan milik Elon Musk itu menyatakan telah menerapkan langkah-langkah teknologi untuk mencegah akun Grok mengedit gambar orang sungguhan ke dalam pakaian terbuka seperti bikini.

Melansir dari TechCrunch, X menegaskan pembatasan ini berlaku bagi seluruh pengguna, baik pelanggan berbayar maupun non-berbayar.

Selain itu, seluruh fitur pembuatan gambar Grok kini hanya dapat diakses oleh pengguna berlangganan, sehingga pengguna gratis tidak lagi bisa menghasilkan gambar menggunakan AI tersebut.

xAI juga menerapkan pemblokiran berbasis wilayah terhadap pembuatan gambar foto seseorang yang mengenakan bikini, pakaian dalam, atau busana serupa, khususnya di negara-negara yang melarang konten tersebut secara hukum.

Kebijakan ini diumumkan beberapa jam setelah negara bagian California membuka penyelidikan terhadap xAI dan Grok terkait penanganan konten ketelanjangan berbasis AI serta dugaan eksploitasi anak. 

Jaksa Agung California Rob Bonta mengutip analisis yang menyebut lebih dari setengah dari 20.000 gambar yang dihasilkan xAI antara Natal dan Tahun Baru menampilkan orang dengan pakaian minim, termasuk gambar yang diduga melibatkan anak-anak.

X menegaskan tidak mentoleransi terhadap eksploitasi anak dan menyatakan secara aktif menghapus “konten pelanggaran prioritas tinggi, termasuk Child Sexual Abuse Material (CSAM) dan ketelanjangan tanpa persetujuan dari platformnya.

Sebelumnya, Elon Musk mengatakan dirinya tidak mengetahui adanya gambar telanjang anak di bawah umur yang dihasilkan oleh Grok. 

Ia menambahkan ketika pengaturan NSFW diaktifkan, Grok seharusnya hanya mengizinkan ketelanjangan bagian atas tubuh manusia dewasa imajiner, bukan orang sungguhan, dengan penerapan yang menyesuaikan hukum di masing-masing wilayah.

Musk juga menekankan kebijakan tersebut akan berbeda di setiap wilayah karena menyesuaikan dengan hukum setempat.