UNESCO ungkap algoritma AI Meta dan OpenAI menunjukkan prasangka seksisme terhadap perempuan
Pekerjaan berstatus tinggi seperti guru, pengacara, dan dokter cenderung diasosiasikan dengan laki-laki, sementara perempuan seperti pekerja seks, koki, atau pembantu rumah tangga.
Studi terbaru dari UNESCO menyoroti ketidaksetaraan gender dalam algoritma kecerdasan buatan (AI) yang digunakan secara luas, khususnya dari Meta dan OpenAI. Laporan yang dirilis pada hari Kamis menyimpulkan bahwa algoritma-algoritma tersebut menunjukkan prasangka terhadap perempuan.
Dalam laporannya melalui website unesco.org (10/3), penelitian yang melibatkan algoritma-algoritma terkenal seperti Llama 2 dari Meta dan GPT-2 serta GPT-3.5 dari OpenAI, UNESCO menemukan bahwa setiap algoritma yang dikenal sebagai Large Language Models (LLMs) menunjukkan "bukti yang tegas terhadap prasangka terhadap perempuan".
Algoritma-algoritma tersebut menghasilkan teks yang mengaitkan nama-nama perempuan dengan konsep-konsep seperti "rumah", "keluarga", atau "anak-anak", sementara nama-nama laki-laki dikaitkan dengan "bisnis", "gaji", atau "karir".
Lebih jauh lagi, pekerjaan berstatus tinggi seperti guru, pengacara, dan dokter cenderung diasosiasikan dengan laki-laki, sementara perempuan sering kali digambarkan dalam peran seperti pekerja seks, koki, atau pembantu rumah tangga. Meskipun demikian, GPT-3.5 terbukti memiliki tingkat bias yang lebih rendah dibandingkan dua model lainnya.
Leona Verdadero, seorang spesialis kebijakan digital dari UNESCO, menegaskan bahwa perusahaan-perusahaan di industri AI "benar-benar tidak melayani semua penggunanya". Audrey Azoulay, direktur jenderal UNESCO, menggarisbawahi bahwa aplikasi AI memiliki pengaruh besar dalam membentuk persepsi masyarakat, dan bahkan bias gender kecil dalam kontennya dapat memperbesar ketidaksetaraan di dunia nyata.