Alat pendeteksi deepfake belum sempurna
Para peneliti mengatakan, dengan melakukan manipulasi lanjutan dari video deepfake berhasil menipu AI dari alat pendeteksi deepfake.
Deepfake saat ini menjadi salah satu momok yang menakutkan bagi banyak orang. Hal ini dikarenakan siapapun yang memiliki teknologi tersebut dapat menyebarkan berita palsu menggunakan wajah siapapun yang ada di internet.
Saat ini, berbagai pihak seperti Microsoft, Facebook, universitas, dan lainnya sedang mencari cara untuk mengidentifikasi deepfake di platform mereka. Tapi, dalam sebuah pernyataan terbaru, sekelompok ilmuwan mengatakan bahwa alat pendeteksi deepfake yang ada saat ini masih dapat ditipu.
Hal ini diungkapkan oleh sekelompok ilmuwan komputer dari UC San Diego. Tim tersebut menunjukkan bagaimana alat deteksi dapat dibodohi dengan memasukkan input yang disebut "contoh permusuhan" ke dalam setiap bingkai video pada konferensi visi komputer WACV 2021 yang berlangsung online pada bulan Januari lalu.
Mereka mengatakan bahwa contoh video yang mereka gunakan telah dimanipulasi ulang yang dapat menyebabkan sistem AI melakukan kesalahan. Seperti diketahui, cara kerja pendeteksi ini adalah memfokuskan diri ke wajah yang ada di dalam video tersebut.
AI kemudian mengirim data wajah yang dipotong ke jaringan neural dan akan dicocokkan dengan wajah asli. Sistem detektor kemudian dapat menentukan apakah video itu asli dengan melihat elemen yang tidak direproduksi dengan baik pada deepfake, seperti berkedip.