Masih banyak bias, penerapan AI dalam sains belum akurat

Penerapan teknologi Artificial Intelegent (AI) dalam sains seperti machine learning, tidak selamanya berjalan dengan akurat untuk dapat menganalisis dan menghasilkan sebuah data. Dilansir dari TechCrunch (28/6), terdapat beberapa bias dalam penerapan teknologi AI yang digunakan dalam sains. Seperti contoh, akademisi asal University of Washington mengenalkan proyek AI untuk mempelajari dan menganalisis foto yang dipresentasikan pada Conference on Computer Vision and Pattern Recognition.

Akedemsi itu telah merancang dan mengembangkan teknologi AI untuk membuat sistem yang dapat mengenali dan memprediksi aliran air, awan, asap, dan zat lainnya, yang tampil dalam sebuah foto. Kemudian, pengenalan dan prediksi itu dilakukan melalui pembuatan animasi pada foto, sehingga foto bisa tampak bergerak.

Meskipun penganimasian pada foto bisa membuat data untuk memprediksi sesuatu, tapi rekayasa pada foto sehingga bisa tampak bergerak bukan merupakan pilihan utama dalam sains. Hal ini karena rekayasa pada foto hanya tampak seperti upaya manipulasi, sehingga data yang dihasilkan menjadi bias. 

Bias dalam penerapan teknologi AI di machine learning semacam itu, juga terjadi di bidang kedokteran. Perekayasaan yang dibuat dalam sebuah sistem dapat memiliki konsekuensi yang mengerikan. Sebuah studi lain dari University of Washington, menunjukkan jika sistem yang  dinamakan sebagai shortcut learning telah gagal dalam memberikan akurasi data di bidang medis. Sistem ini berjalan sederhana, jadi sistem dapat mengeluarkan data kondisi pasien dari X-ray berdasar riwayat kesehatan yang pernah dialaminya. Jadi, sistem ini memungkinkan tenaga medis tidak perlu menganalisis data foto yang dihasilkan dari X-Ray untuk mengetahui kondisi pasien. Tapi, ini juga sangat bias karena data riwayat kesehatan yang digunakan berarti sangat bergantung pada kondisi rumah sakit yang mengeluarkan. Hal ini membuat sistem dari shortcut learning tidak bisa digeneralisir untuk mengetahui kondisi pasien yang berbeda.

Tim yang membuat studi tersebut juga menemukan bahwa banyak sistem yang pada dasarnya gagal, ketika digunakan menganalisis pada kumpulan data yang berbeda. Mereka berharap ada kemajuan dalam machine learning yang lebih transparan, sehingga akan mempermudah untuk mengetahui kapan sistem ini tidak berjalan sesuai aturan dalam sains, khususnya di bidang kedokteran.