AI pada mobil otonom masih memiliki masalah pada pengenalan orang
Para peneliti memulai penelitian setelah melakukan beberapa pengamatan bahwa sensor, kamera, dan software melakukan pekerjaan yang lebih baik dalam mendeteksi orang dengan warna kulit terang.
Pejalan kaki berkulit gelap berisiko tidak terdeteksi oleh sistem pengenalan kecerdasan buatan (artificial intelligence/AI) pada mobil otonom. Dilansir dari ExtremeTech (7/3), penelitian terbaru yang dilakukan oleh Georgia Tech menemukan bahwa semakin gelap warna kulit, ada beberapa kendala yang dialami software pengenalan pejalan kaki. Hal ini dapat menimbulkan risiko keselamatan.
Sebuah penelitian lain menemukan pejalan kaki bertubuh pendek juga sulit untuk dikenali oleh kendaraan otonom. Dalam situasi selain mobil, AI pengenal wajah memiliki lebih banyak masalah untuk menentukan jenis kelamin orang dengan warna kulit gelap.
Sedangkan untuk studi Georgia Tech tentang ketimpangan prediktif mengenai pejalan kaki, para peneliti telah mengamati tingkat kesalahan yang lebih tinggi untuk beberapa aspek. Mereka mengatur penelitian dengan menggunakan delapan sistem AI berbeda dan bekerja dengan sekelompok gambar orang-orang dari berbagai jenis warna kulit.
Gambar dibagi menjadi kategori kulit terang dan gelap menggunakan Fitzpatrick Scale, yang membentuk enam tipe warna kulit (1 paling terang, 6 lebih gelap). Ini digunakan untuk berbagai penelitian, seperti seberapa banyak paparan sinar UV.
Para peneliti memulai penelitian setelah pengamatan bahwa sensor, kamera, dan software melakukan pekerjaan yang lebih baik dalam mendeteksi orang dengan warna kulit terang. Kemudian mereka menjalankan tes berbasis lab daripada langsung di dunia nyata. Artinya, para peneliti tidak merekrut sukarelawan yang mewakili enam warna kulit. Mereka hanya melatih software dengan gambar orang.
Hasilnya adalah akurasi pengenalan untuk gambar orang berkulit gelap adalah 5 persen lebih rendah dibandingkan dengan gambar orang berkulit terang. Inilah latar belakang tentang warna kulit dan mengapa penelitian dilakukan.
Meski demikian, baru-baru ini sistem mutakhir yang dirancang oleh banyak konglomerat teknologi terus menghadapi pengawasan untuk perilaku sistem pengenalan wajah. Software prediksi gender komersial telah terbukti memiliki akurasi yang jauh lebih buruk pada wanita dengan tipe kulit Fitzpatrick 4-6 dibandingkan dengan kelompok lain.
