Roblox Luncurkan AI yang Otomatis Perbaiki Kata Kasar di Chat Game

Platform game online Roblox memperkenalkan fitur baru berbasis kecerdasan buatan (AI) yang mampu mengoreksi atau mengganti bahasa tidak pantas dalam chat secara real-time. 

Inovasi ini dikembangkan untuk meningkatkan kualitas percakapan di dalam game sekaligus memperkuat sistem moderasi komunitas.

Sebelumnya, Roblox telah menggunakan sistem filter AI untuk memblokir kata atau kalimat yang melanggar kebijakan komunitas. Namun, pesan yang disensor biasanya diganti dengan deretan tanda pagar (####). 

Roblox menilai metode tersebut sering kali mengganggu alur percakapan dan membuat pesan menjadi sulit dipahami.

Melalui fitur baru ini, sistem AI akan mengganti kata atau frasa yang tidak pantas dengan alternatif yang lebih sesuai, sehingga percakapan tetap dapat dipahami tanpa melanggar aturan platform.

Chief Safety Officer Roblox Rajiv Bhatia mengatakan fitur tersebut akan mulai diterapkan dengan fokus pada kata-kata kasar atau profanitas.

“Ketika sistem ini semakin luas digunakan, mereka akan menciptakan siklus kesopanan di mana umpan balik secara real-time membantu pengguna mempelajari dan mengikuti standar komunitas kami,” ujar Bhatia dalam sebuah tulisan di blog resmi Roblox.

Sebagai contoh, jika seorang pemain menulis kalimat “Hurry TF up” di chat, sistem akan secara otomatis menggantinya menjadi “Hurry up!” atau “Cepatlah!”. 

Dalam setiap percakapan, pemain lain akan melihat catatan bahwa pesan tersebut telah diperbaiki oleh sistem AI. Sementara itu, pengirim pesan tetap dapat melihat bagian kalimat yang telah diedit oleh sistem.

Meski demikian, Roblox menegaskan fitur ini tidak menghapus konsekuensi bagi pemain yang berulang kali melanggar aturan. Pengguna yang terus menggunakan bahasa kasar tetap dapat dikenakan sanksi sesuai kebijakan platform.

Fitur rephrasing berbasis AI saat ini diterapkan pada percakapan antar pengguna yang telah melalui verifikasi usia dan berada dalam kelompok usia yang serupa. Sistem tersebut juga mendukung seluruh bahasa yang tersedia dalam fitur penerjemah Roblox.

Langkah ini merupakan bagian dari upaya Roblox memperkuat sistem keamanan platform, terutama setelah perusahaan memperkenalkan verifikasi usia wajib pada Januari lalu. Kebijakan tersebut diterapkan setelah muncul berbagai laporan yang menyoroti potensi penyalahgunaan platform oleh pemain dewasa terhadap pengguna anak-anak.

Dalam kebijakan terbaru, anak-anak di bawah usia 13 tahun tidak lagi dapat menggunakan fitur chat di dalam game kecuali pada pengalaman tertentu, sementara pengguna yang lebih tua hanya dapat berinteraksi dengan pemain dalam rentang usia yang sama.

Meski berbagai langkah keamanan telah diterapkan, Roblox masih menghadapi sorotan dari sejumlah pihak. Otoritas di Los Angeles County mengajukan gugatan hukum pada Februari lalu dengan tuduhan platform tersebut mengetahui adanya risiko eksploitasi anak di dalam sistemnya.

Jaksa Agung Louisiana juga mengajukan gugatan serupa dengan menyatakan Roblox telah menciptakan lingkungan digital yang rentan dimanfaatkan oleh pelaku kejahatan terhadap anak.