Bisa ngobrol fulgar dengan akun remaja, Meta AI terkena masalah
Meta tersandung kontroversi setelah AI chatbot-nya, termasuk yang disuarakan selebriti, berinteraksi secara fulgar dengan akun anak di bawah umur.
Meta kembali menjadi perhatian setelah penyelidikan Wall Street Journal (WSJ) yang mengungkapkan bahwa chatbot AI perusahaan berbicara dengan akun yang ditandai sebagai anak di bawah umur. Lebih mengejutkan lagi, chatbot tertentu memiliki suara selebriti seperti Kristen Bell, Judi Dench, dan John Cena.
Dilansir dari laman engadget (28/4), pengujian WSJ menemukan bahwa chatbot buatan pengguna dan chatbot resmi Meta AI tidak hanya merespons, tetapi juga kadang-kadang mengarahkan percakapan ke topik seksual. Ini terjadi meskipun chatbot menunjukkan diri sebagai remaja atau pengguna diprogram sebagai orang di bawah umur.
Dalam beberapa kasus, chatbot mengakui bahwa skenario fantasi yang mereka bicarakan termasuk perilaku ilegal. Meta merespons laporan ini dengan mengatakan bahwa hasil investigasi WSJ "manipulatif dan tidak merepresentasikan mayoritas interaksi pengguna dengan AI companion mereka."
Meski begitu, Meta mengaku telah mengambil langkah tambahan untuk memperketat penggunaan ekstrem produk AI-nya. Industri chatbot AI memang tengah berkembang pesat, dengan persaingan ketat dari nama-nama seperti ChatGPT, Character AI, dan Claude dari Anthropic.
WSJ juga mengklaim bahwa CEO Meta, Mark Zuckerberg, ingin melonggarkan etika pengamanan demi membuat interaksi AI lebih menarik dan kompetitif. Namun, Meta menegaskan bahwa mereka telah memasang keamanan sejak awal dan tidak mengabaikannya
