sun
moon
Premium Partner :
  • partner tek.id samsung
  • partner tek.id telkomsel
  • partner tek.id acer
  • partner tek.id poco
  • partner tek.id realme
Selasa, 31 Jan 2023 17:38 WIB

Oknum salah gunakan AI untuk tiru suara selebriti

Startup AI ElevenLabs mengungkapkan di Twitter bahwa mereka mencatat "peningkatan jumlah kasus penyalahgunaan kloning suara".

Oknum salah gunakan AI untuk tiru suara selebriti
Source: Unsplash/ Panos Sakalakis

Beberapa hari lalu, startup AI ElevenLabs meluncurkan versi beta dari platformnya yang memungkinkan pengguna membuat suara sintetis baru untuk audio text-to-speech atau untuk mengkloning suara seseorang. 

Sayangnya tidak butuh waktu lama, manfaat yang kedua itu sudah disalah gunakan oleh oknum. Perusahaan mengungkapkan di Twitter bahwa mereka mencatat "peningkatan jumlah kasus penyalahgunaan kloning suara". Untuk itu, perusahaan sedang menerapkan perlindungan tambahan untuk mengatasi masalah tersebut.

ElevenLabs tidak menjelaskan secara detail kasus penyalahgunaan yang terjadi. Namun dilansir dari laporan Motherboard, sebuah postingan menampilkan suara yang terdengar seperti selebriti sedang membaca atau mengatak sesuatu, namun sebenarnya hasil buatan AI.

Salah satu klip, misalnya, terdengar seperti Emma Watson yang sedang membaca bagian dari Mein Kampf. Pengguna juga memposting klip suara yang menampilkan sentimen homofobik, transfobik, kekerasan, dan rasis. 

Tidak diketahui apakah semua klip yang meniru suara selebriti itu dibuat menggunakan teknologi ElevenLab, tetapi postingan dengan banyak koleksi file suara di 4chan menyertakan tautan ke platform tersebut.

Munculnya klip audio "deepfake" ini seharusnya tidak mengejutkan, mengingat beberapa tahun lalu, kita telah melihat fenomena serupa terjadi. Kemajuan AI dan pembelajaran mesin menyebabkan peningkatan video deepfake, khususnya pornografi deepfake, di mana materi pornografi yang ada diubah untuk menggunakan wajah selebritas. 

ElevenLabs kini mengumpulkan umpan balik tentang cara mencegah pengguna menyalahgunakan teknologinya. Solusinya saat ini termasuk menambahkan lebih banyak lapisan ke verifikasi akun untuk mengaktifkan kloning suara, seperti meminta pengguna memasukkan info pembayaran atau tanda pengenal. 

Ini juga akan meminta pengguna memverifikasi kepemilikan hak cipta atas suara yang ingin mereka tiru, seperti meminta mereka mengirimkan sampel dengan teks yang diminta.

Share
×
tekid
back to top