Oknum salah gunakan AI untuk tiru suara selebriti

Beberapa hari lalu, startup AI ElevenLabs meluncurkan versi beta dari platformnya yang memungkinkan pengguna membuat suara sintetis baru untuk audio text-to-speech atau untuk mengkloning suara seseorang. 

Sayangnya tidak butuh waktu lama, manfaat yang kedua itu sudah disalah gunakan oleh oknum. Perusahaan mengungkapkan di Twitter bahwa mereka mencatat "peningkatan jumlah kasus penyalahgunaan kloning suara". Untuk itu, perusahaan sedang menerapkan perlindungan tambahan untuk mengatasi masalah tersebut.

ElevenLabs tidak menjelaskan secara detail kasus penyalahgunaan yang terjadi. Namun dilansir dari laporan Motherboard, sebuah postingan menampilkan suara yang terdengar seperti selebriti sedang membaca atau mengatak sesuatu, namun sebenarnya hasil buatan AI.

Salah satu klip, misalnya, terdengar seperti Emma Watson yang sedang membaca bagian dari Mein Kampf. Pengguna juga memposting klip suara yang menampilkan sentimen homofobik, transfobik, kekerasan, dan rasis. 

Tidak diketahui apakah semua klip yang meniru suara selebriti itu dibuat menggunakan teknologi ElevenLab, tetapi postingan dengan banyak koleksi file suara di 4chan menyertakan tautan ke platform tersebut.