Cara WhatsApp mendeteksi pesan hoax tanpa membuka enkripsi

Saat ini, ada sekira 1,5 miliar pengguna WhatsApp. Tidak heran, setiap hari ada saja pengguna yang mengirimkan pesan spam atau berita hoax. Saking banyaknya pesan spam atau hoax, pihak WhatsApp mengaku setiap bulannya telah menghapus sekira dua juta akun yang melakukan praktik tersebut. Hal ini terungkap oleh pihak WhatsApp dalam laporan whitepaper mereka beberapa waktu lalu.

Dari dua juta akun tersebut, sekira 75 persen adalah hasil dari pemindaian algoritma machine learning yang kuat. Sisanya merupakan hasil laporan pengguna WhatsApp sendiri, ketika mereka menerima pesan tersebut.

Lantas, apa yang dilakukan WhatsApp untuk memerangi spam? Ternyata, mereka melakukan teknik khusus. WhatsApp menjelaskan bahwa mereka melakukannya tanpa merusak enkripsi dan membaca isi pesan pengguna.

Untuk melakukan itu, mereka menggunakan teknik bernama ‘user action' yang mencakup metadata registrasi dan tingkat pengiriman pesan. Teknik ini dapat melihat bit informasi dalam pesan tanpa mendekripsi pesan apa pun.

Pengembang software WhatsApp, Matt Jones, menyebutkan mereka menggunakan tiga pos pemeriksaan di mana pos ini akan memblokir akun saat pendaftaran, selama pengiriman pesan, dan saat ada laporan dari pengguna lain.

Dalam laporan The Next Web (12/2), teknik yang digunakan adalah model Facebooks Immune System. Model ini akan menyarankan AI untuk melakukan pemeriksaan real time pada setiap tindakan membaca atau menulis. Dengan begitu mereka menentukan perilaku kasar dan melatih sistem machine learning mereka.

Pada tahap pertama, AI di WhatsApp akan memeriksa nomor telepon saat pendaftaran untuk memverifikasi koordinat Anda. Algoritma machine learning kemudian akan memproses informasi dasar seperti detail perangkat, alamat IP perangkat, dan info operator untuk melihat apakah nomor atau perangkat yang dipakai berbahaya.

WhatsApp selalu mencatat IP perangkat saat mereka melakukan pemblokiran akun karena tindakan hoax dan lainnya.

Pada proses pendaftaran akun secara masal, AI juga akan melihat nomor telepon yang mirip dengan nomor yang disalahgunakan. Jika terbukti, sistem akan membuangnya, bahkan sebelum akun ini aktif mengirim pesan.

Perusahaan mengatakan dari dua juta akun yang diblokir setiap bulan, 20 persen tertangkap saat pendaftaran.

Pekerjaan memerangi spam yang paling menarik adalah ketika bot mencoba mengirim pesan kepada orang-orang. AI akan mendeteksi apakah sebuah akun, setelah lima menit mendaftar, langsung mengirim 100 pesan dalam 10 detik.

Selain itu, jika akun spam mengirim tautan berbahaya, maka WhatsApp akan menandainya sebagai pesan mencurigakan. Tahun lalu, beberapa partai politik India diketahui menggunakan sebuah organisasi untuk menyebarkan propaganda.

Untuk melawannya, WhatsApp memperkenalkan fitur pelaporan grup WA mencurigakan. Setelah dilaporkan, pengguna secara otomatis akan dikeluarkan dari gurp dan admin tidak dapat mengundang kembali pengguna ke dalam grup.

Terakhir, WhatsApp akan memblokir akun pada saat dilaporkan oleh orang lain. Namun, mereka memastikan bahwa sistem ini akan melindungi akun saat ada kelompok pengguna menargetkan individu yang tidak bersalah.

Untuk melakukan itu, perusahaan aplikasi pesan daring ini memeriksa apakah nomor telepon yang melaporkan pengguna tertentu pernah berinteraksi dengan akun tersebut.

Tak ketinggalan, baru-baru ini mereka juga memperkenalkan sistem untuk membatasi jumlah pesan terusan maksimal lima kali. Mereka bahkan memastikan bahwa algoritmanya menangkap pelaku penyalahgunaan pada aplikasi yang dimodifikasi.

Sayang, untuk melakukan hal ini WhatsApp masih memiliki cukup banyak tantangan. Salah satunya adalah tingkat kecerdasan AI yang masih tidak bisa menentukan kepastian, apakah pesan sebuah spam atau hoax, dalam keadaan terenkripsi.

Ada juga masalah pelaku terus-menerus membuat grup baru dan berulang kali menambahkan pengguna yang sama di dalam grup baru tersebut. Hal ini menjadikan opsi untuk melaporkan grup kurang efektif.

WhatsApp sedang berupaya membuat model AI yang dapat mendeteksi spam lebih cepat. Jones ingin memastikan bahwa pengguna terhubung dengan orang asli dan bukan bot spam.

"Kami di sini bukan untuk menghubungkan orang dengan bot mikrofon, WhatsApp adalah (aplikasi) pesan pribadi."