Facebook buat AI pendeteksi meme ofensif

AI yang bernama Rosetta ini diharapkan dapat membantu Facebook untuk menangani konten ofensif yang disembunyikan melalui meme populer

Facebook buat AI pendeteksi meme ofensif Facebook (Pexels)

Sebagai media untuk berbagi lelucon, meme kini sudah mulai merajai semua media sosial. Tapi, belakangan ini para pengguna medsos pun mulai memakai meme sebagai bahan perundungan dan untuk menyerang orang lain.

Para moderator, terutama di Facebook mulai kewalahan menjaring mana meme yang layak untuk tayang dan mana meme yang digunakan untuk menyerang atau ofensif. Oleh karenanya, mereka sedang membuat sebuah AI yang dapat mendeteksi meme yang bersifat menyerang.

Perusahaan media sosial yang digawangi Mark Zuckerberg menjelaskan, sistem yang bernama Rosetta ini menggunakan machine learning untuk mengidentifikasi teks dalam gambar dan video. Kemudian, AI itu mentranskripsikannya menjadi sesuatu yang dapat dibaca mesin. 

Secara khusus, Facebook menemukan alat ini bermanfaat untuk menyalin teks pada meme.

Alat transkripsi teks bukanlah hal yang baru, tetapi Facebook menghadapi tantangan yang berbeda karena ukuran platform-nya dan keragaman gambar yang dilihatnya. Saat ini, Rosetta sudah mulai beroperasi, mendeteksi teks dari 1 miliar gambar dan frame video per hari di Facebook dan Instagram.

Tapi, saat ini tidak jelas apa yang akan dilakukan oleh Facebook dengan data tersebut. Secara umum, fitur Ini berguna melakukan tugas dasar seperti penelusuran foto dan pembaca layar. Namun, jika dilihat lebih jauh, sistem tersebut terlihat seperti untuk mencari tahu apa yang akan menarik untuk dimasukkan ke dalam News Feed Anda, terutama mencari tahu meme mana yang hanya meme konyol dan yang sebenarnya menyebarkan ujaran kebencian atau komentar ofensif lainnya.

Facebook mengatakan ekstraksi teks dan machine learning sedang digunakan untuk "secara otomatis mengidentifikasi konten yang melanggar kebijakan ujaran kebencian". Mereka juga menyebut kini pembacaan tersebut sudah dilakukan dalam berbagai bahasa.

Mengingat beberapa masalah yang mendera Facebook, sistem Rosetta bisa jadi merupakan solusi agar media sosial tersebut bisa memperoleh kepercayaan penggunanya lagi. Tentu saja jika sistem tersebut bisa berjalan sesuai harapan. Demikian yang dilaporkan The Verge.

Jangan baca sendiri, bagikan artikel ini: