Twitter analisis dampak negatif algoritmenya

Twitter telah memulai inisiatif barunya yang disebut Responsible Machine Learning, untuk menilai "kerugian yang tidak disengaja" yang disebabkan oleh algoritmenya. Tim insinyur, peneliti, dan ilmuwan data dari perusahaan akan mempelajari bagaimana penggunaan machine learning Twitter dapat menyebabkan bias algoritme yang berdampak negatif pada pengguna.

Dilansir dari The Verge (16/4), salah satu tugasnya adalah penilaian bias ras dan gender dalam algoritme pemotongan gambar otomatis Twitter. Pengguna Twitter telah menunjukkan bahwa pratinjau foto yang dipotong otomatis tampaknya lebih menyukai wajah putih daripada wajah hitam. Pada bulan lalu, perusahaan juga telah menguji tampilan gambar penuh daripada pratinjau gambar yang dipotong.

Tim juga akan meninjau bagaimana rekomendasi timeline yang berbeda di seluruh bagian ras dan menganalisis rekomendasi konten di berbagai ideologi politik di berbagai negara. Twitter juga mengatakan akan bekerja sama dengan peneliti akademis pihak ketiga, yang kemudian akan membagikan hasil analisisnya dan meminta umpan balik dari publik.

Sayangnya tidak jelas seberapa besar dampak dari temuan tersebut. Namun Twitter mengatakan temuan mereka tidak selalu diterjemahkan ke dalam perubahan produk yang terlihat, melainkan hanya mengarah pada cara perusahaan menggunakan machine learning-nya. 

Keputusan Twitter untuk menganalisis bias algoritmenya sendiri mengikuti jejaring sosial lain seperti Facebook, yang membentuk tim serupa pada 2020. Diketahui Twitter juga sedang dalam tahap awal untuk mengeksplorasi "pilihan algoritme", yang berpotensi memungkinkan pengguna mendapatkan lebih banyak masukan tentang konten apa yang disajikan kepada mereka.