OpenAI Uji Sistem Keamanan Baru, Termasuk Parental Controls Untuk Pengguna Remaja
OpenAI uji sistem keamanan dan parental controls di ChatGPT usai kasus tragis, menuai pro-kontra dari pengguna dan pakar.
ChatGPT. dok. OpenAi
OpenAI mulai menguji sistem keamanan baru di ChatGPT yang diklaim mampu mendeteksi percakapan emosional sensitif dan mengarahkan ke model paling aman.
Di saat bersamaan, OpenAI juga memperkenalkan fitur kontrol orangtuan atau parental controls untuk pengguna remaja, langkah yang langsung menuai beragam reaksi.
Langkah ini datang setelah OpenAI menghadapi gugatan hukum terkait kasus seorang remaja yang meninggal akibat bunuh diri, usai berbulan-bulan berinteraksi dengan ChatGPT.
Kritik mengemuka karena model lama kerap memvalidasi delusi pengguna alih-alih mengarahkan ke percakapan yang lebih aman.
- OpenAI Luncurkan Fitur Shopping Research di ChatGPT, Tawarkan Panduan Belanja Pintar
- ChatGPT Hadirkan Fitur Group Chat, Buka Era Baru Kolaborasi Pengguna
- Data OpenAI Ungkap Lebih dari Satu Juta Pengguna ChatGPT Bahas Kesehatan Mental Pribadi Tiap Minggu
- Mengenal DeepSeek yang Kini Masuk Jajaran Aplikasi Populer di Google Play dan App Store
Melalui sistem baru, percakapan berisiko kini bisa otomatis dialihkan ke GPT-5-thinking, model yang dibekali fitur safe completions.
Fitur ini memungkinkan AI menjawab pertanyaan sensitif dengan cara yang aman, bukan sekadar menolak merespons.
Walau sebagian pakar menyambut baik inovasi ini, tak sedikit pengguna menilai OpenAI terlalu berhati-hati. Beberapa bahkan menuduh perusahaan “memperlakukan orang dewasa seperti anak-anak” sehingga kualitas layanan menurun.
VP sekaligus Head of ChatGPT App Nick Turley menjelaskan sistem rute ini masih dalam tahap uji coba.
“Routing terjadi per pesan, dan pergantian model bersifat sementara. ChatGPT akan memberi tahu model yang aktif jika ditanyakan,” ujarnya di X, seperti dikutip dari TechCrunch.
Fitur parental controls juga memicu perdebatan. Opsi ini memungkinkan orang tua mengatur pengalaman remaja dengan membatasi jam penggunaan, mode suara, memori, hingga akses ke fitur gambar dan pelatihan model.
Lebih jauh, akun remaja mendapat perlindungan tambahan, termasuk pembatasan konten grafis maupun standar kecantikan ekstrem.
Sistem juga dilengkapi deteksi dini untuk tanda-tanda potensi pikiran bunuh diri, yang jika terdeteksi akan ditinjau oleh tim khusus.
OpenAI menyebut bila ada indikasi darurat, orang tua akan dihubungi lewat email, SMS, atau notifikasi aplikasi.
Bahkan, jika tidak ada respons, perusahaan tengah menyiapkan mekanisme untuk menghubungi aparat hukum atau layanan darurat.
OpenAI mengakui sistem ini belum sempurna dan bisa menimbulkan false alarm. Namun, OpenAI menegaskan lebih baik bertindak cepat ketimbang berdiam diri.
OpenAI memberi waktu 120 hari untuk iterasi dan penyempurnaan sebelum sistem diluncurkan lebih luas.
