3 poin penting dari laporan Microsoft dalam kemajuan AI yang bertanggung jawab
Laporan ini merupakan bagian dari komitmen Microsoft yang terjalin melalui perjanjian sukarela dengan Gedung Putih pada tahun lalu.
Microsoft baru-baru ini merilis Laporan Transparansi AI Bertanggung Jawab 2023 yang menyoroti upaya mereka dalam mengembangkan platform kecerdasan buatan (AI) yang aman dan etis. Laporan ini merupakan bagian dari komitmen Microsoft yang terjalin melalui perjanjian sukarela dengan Gedung Putih pada Juli tahun lalu, di mana perusahaan berjanji untuk membangun sistem AI yang bertanggung jawab.
Berikut 3 poin penting dari laporan Microsoft dalam kemajuan AI yang bertanggung jawab, seperti dikutip dari The Verge (3/5).
1. Pengembangan alat AI yang bertanggung jawab
Microsoft telah berhasil menciptakan 30 alat AI bertanggung jawab baru yang dirancang untuk meningkatkan keamanan dan etika dalam penggunaan AI. Sebagai upaya mendukung proses pengembangan yang aman, tim-tim di Microsoft diwajibkan untuk sistematis mengukur dan memetakan risiko selama siklus pengembangan aplikasi AI generatif.
2. Penerapan fitur Content Credentials dan peningkatan keamanan
Microsoft memperkenalkan fitur 'Content Credentials' dalam platform generasi gambar, memastikan setiap gambar yang dihasilkan diberi watermark yang menunjukkan pembuatan oleh model AI. Perusahaan juga meningkatkan kemampuannya dalam mendeteksi konten bermasalah seperti ujaran kebencian dan konten seksual melalui alat-alat baru pada layanan Azure AI, serta metode baru untuk mendeteksi jailbreak dan injeksi prompt tidak langsung.
3. Ekspansi red-teaming dan respons atas kontroversi
Microsoft memperluas inisiatif red-teaming yang mencakup pengujian internal dan pihak ketiga untuk menjamin keamanan model AI sebelum peluncurannya. Meskipun menghadapi beberapa insiden kontroversial seperti kesalahan fakta oleh Bing AI dan penyalahgunaan generator gambar, Microsoft telah mengambil langkah-langkah untuk menutup celah keamanan tersebut, menunjukkan respons proaktif dalam menghadapi tantangan keamanan AI.
Melalui tindakan ini, Microsoft menegaskan komitmennya terhadap pengembangan AI yang bertanggung jawab, mengakui bahwa perjalanan menuju AI yang sepenuhnya aman dan etis masih panjang dan memerlukan usaha berkelanjutan.
