IBM hentikan pengembangan teknologi pengenalan wajah

IBM baru saja mengumumkan sebuah keputusan yang cukup mencengangkan. Baru-baru ini, mereka mengumumkan bahwa mulai saat ini, mereka akan menghentikan pengembangan teknologi pengenalan wajah.

Sebuah sumber mengatakan, CEO IBM Arvind Krishna baru-baru ini mengirimkan surat ke Kongres Amerika perihal pemberhentian tersebut. Dia mengatakan, bahwa IBM menentang keras penggunaan pengenalan wajah untuk pengawasan.

“Kami menentang keras penggunaan teknologi (pemindai wajah) untuk pengawasan, profil rasial, dikarenakan melanggar hak asasi manusia dan kebebasan," menurut Krishna dalam surat tersebut, seperti dikutip dari laman Engadget (10/6/2020).

Dia berpendapat bahwa AI memang salah satu alat yang ampuh untuk penegakan hukum, tetapi penggunaannya harus tetap diperiksa dengan tes yang diaudit untuk menghindari hal-hal yang dapat melanggar kebebasan warga. Dia juga mendorong teknologi yang meningkatkan akuntabilitas dan transparansi, seperti kamera tubuh.

Surat Krishna adalah salah satu bagian dari protes untuk mendorong akuntabilitas polisi yang lebih luas dan melakukan reformasi, termasuk beberapa yang sudah menjadi bagian dari Justice in Policing Act 2020 yang baru saja diperkenalkan.

Langkah ini dilakukan di tengah-tengah protes atas kebrutalan dan diskriminasi polisi, dan tidak lama setelah pengakuan wajah Clearview AI yang mengangkat masalah privasi dan bias. Lebih dari satu laporan telah mengindikasikan bahwa sistem pengenalan wajah dapat menjadi bias terhadap non-kulit putih dan perempuan, terutama jika data pelatihan relatif sedikit yang datang dari kelompok-kelompok itu.

Sementara beberapa sistem pengenalan wajah hanya dapat menghubungkan wajah dengan data yang tersedia untuk umum, ada kekhawatiran ini dapat digunakan untuk pelacakan dan pembuatan profil yang dapat digunakan untuk mengintimidasi orang atau membatasi privasi dunia nyata mereka.