Facebook bagikan dua algoritma untuk deteksi foto pelecehan anak

Facebook akan membuka dua algoritma yang mereka gunakan untuk mengidentifikasi eksploitasi seksual terhadap anak, propaganda teroris, dan kekerasan grafis. Hal ini mereka lakukan untuk mendapatkan lebih banyak data untuk mereka proses kedepannya.

Mereka akan membagikan teknologi PDQ dan TMK + PDQF milik mereka. Keduanya adalah sepasang teknologi yang menyimpan file sebagai hash digital dan membandingkannya dengan contoh konten berbahaya yang sebelumnya sudah diketahui.

Kedua algoritma ini pun dikabarkan sudah mereka rilis di situs berbagi kode gratis Github. Semua orang dapat mengakses dan mengunduh file tersebut untuk digunakan untuk membantu Facebook membuat database yang sangat besar.

Perusahaan yang dipimpin Mark Zuckerberg ini mengatakan pihaknya berharap perusahaan teknologi lain, mulai dari organisasi nirlaba hingga pengembang individu dapat menggunakan teknologi ini untuk mengidentifikasi konten yang berbahaya dan menambahkannya ke database bersama.

Hal ini akan membantu platform mereka, dan pihak lain untuk menghapus konten lebih cepat ketika orang berusaha mengunggah konten tersebut.    

"Bagi mereka yang sudah menggunakan teknologi pencocokan konten mereka sendiri atau lainnya, teknologi ini adalah tambahan lapisan pertahanan dan memungkinkan sistem untuk berkomunikasi satu sama lain, membuat mereka jauh lebih kuat," tulis Facebook, seperti dikutip dari postingan blog terbaru mereka (2/8/2019).

Ada dua hal yang membuat Facebook pada akhirnya meminta tolong kepada publik untuk menanggulangi hal tersebut. Yang pertama adalah setelah penembakan Christchurch, yang membuat mereka harus bergerak lebih cepat dalam menutup siaran langsung yang tidak seharusnya ditampilkan. 

Yang kedua adalah Facebook ternyata mendapatkan peningkatan laporan pelecehan anak dalam jumlah yang sangat besar. “Kami menyaksikan peningkatan 541 persen jumlah video pelecehan seksual anak yang dilaporkan oleh industri teknologi kepada CyberTipline," kata John Clark, presiden dan CEO dari Pusat Nasional untuk Anak Hilang dan Eksploitasi Anak (NCMEC), dalam sebuah posting blog.

“Kami yakin bahwa kontribusi Facebook dari teknologi open-source mereka pada akhirnya akan mengarah pada identifikasi dan penyelamatan lebih banyak korban pelecehan seksual anak.”

Langkah hari ini menandai pertama kalinya Facebook memiliki teknologi pencocokan foto atau video yang dibagi secara terbuka. Sedangkan dua perusahaan raksasa teknologi lain, yakni Microsoft dan Google sebelumnya sudah menyumbangkan teknologi serupa.

Selain mengambil langkah membuat algoritma mereka open-source, Facebook juga memiliki kemitraan dengan University of Maryland, Cornell University, Massachusetts Institute of Technology, dan University of California, Berkeley yang menyelidiki cara-cara untuk menghentikan orang dari membuat perubahan halus pada foto dan video yang dilarang untuk diunggah dengan cara menghindari sistem keamanan.