ChatGPT kini ingatkan pengguna untuk istirahat

OpenAI mengumumkan bahwa ChatGPT kini akan mengingatkan pengguna untuk beristirahat jika mereka terlibat dalam percakapan yang sangat panjang dengan AI, sebagaimana dilansir dari Engadget. Fitur baru ini merupakan bagian dari upaya berkelanjutan OpenAI untuk membantu pengguna mengembangkan hubungan yang lebih sehat dengan asisten AI yang sering kali terlalu patuh dan mendukung.

Pengumuman perusahaan menunjukkan bahwa "gentle reminders" akan muncul sebagai pop-up dalam chat yang harus diklik atau disentuh pengguna untuk melanjutkan penggunaan ChatGPT. Contoh pop-up bertuliskan: "Just Checking In. You've been chatting for a while — is this a good time for a break?"

Sistem ini mirip dengan pengingat yang ditampilkan beberapa game Nintendo Wii dan Switch jika dimainkan dalam waktu lama, meskipun fitur ChatGPT memiliki konteks yang lebih gelap.

Kualitas "yes, and" dari AI OpenAI dan kemampuannya menghasilkan respons yang salah secara faktual atau berbahaya telah membawa pengguna ke jalan yang gelap, seperti dilaporkan The New York Times pada Juni. Hal ini termasuk ideasi bunuh diri. Beberapa pengguna yang delusinya dimanjakan ChatGPT sudah memiliki riwayat penyakit mental, namun chatbot tetap gagal secara konsisten dalam menghentikan percakapan yang tidak sehat.

OpenAI mengakui beberapa kekurangan tersebut dalam blog post-nya dan menyatakan bahwa ChatGPT akan diperbarui di masa depan untuk merespons dengan lebih hati-hati terhadap "high-stakes personal decisions". Daripada memberikan jawaban langsung, perusahaan mengatakan chatbot akan membantu pengguna memikirkan masalah, menawarkan pertanyaan, dan mencantumkan pro dan kontra.

OpenAI jelas ingin ChatGPT terasa membantu, mendorong, dan menyenangkan untuk digunakan, namun tidak sulit mengemas kualitas tersebut ke dalam AI yang bersifat sycophantic (terlalu patuh). Perusahaan terpaksa menarik kembali pembaruan ChatGPT pada April yang membuat chatbot merespons dengan cara yang menjengkelkan dan terlalu setuju.

Beristirahat dari ChatGPT akan membuat masalah seperti itu kurang terlihat, atau setidaknya memberi pengguna waktu untuk memeriksa kebenaran jawaban yang diberikan ChatGPT.