OpenAI Uji Sistem Keamanan Baru, Termasuk Parental Controls Untuk Pengguna Remaja

OpenAI mulai menguji sistem keamanan baru di ChatGPT yang diklaim mampu mendeteksi percakapan emosional sensitif dan mengarahkan ke model paling aman. 

Di saat bersamaan, OpenAI juga memperkenalkan fitur kontrol orangtuan atau parental controls untuk pengguna remaja, langkah yang langsung menuai beragam reaksi.

Langkah ini datang setelah OpenAI menghadapi gugatan hukum terkait kasus seorang remaja yang meninggal akibat bunuh diri, usai berbulan-bulan berinteraksi dengan ChatGPT. 

Kritik mengemuka karena model lama kerap memvalidasi delusi pengguna alih-alih mengarahkan ke percakapan yang lebih aman.

Melalui sistem baru, percakapan berisiko kini bisa otomatis dialihkan ke GPT-5-thinking, model yang dibekali fitur safe completions.