Google ubah prinsip etika AI, izinkan penggunaan untuk senjata dan pengawasan

Google telah mengubah prinsip etisnya, menghapus janji untuk tidak menggunakan teknologi kecerdasan buatan (AI) untuk senjata atau pengawasan. Perubahan ini terjadi sebagai respons terhadap dinamika geopolitik yang semakin kompleks dan persaingan global untuk kepemimpinan dalam pengembangan AI.

Dalam postingan blog yang berjudul "Responsible AI: Our 2024 Report and Ongoing Work," James Manyika, SVP untuk teknologi dan masyarakat, dan Demis Hassabis, CEO DeepMind, menjelaskan bahwa Google percaya demokrasi harus memimpin pengembangan AI, yang diarahkan oleh nilai-nilai dasar seperti kebebasan, kesetaraan, dan penghormatan terhadap hak asasi manusia.

Google mengklaim bahwa mereka akan menggunakan AI secara bertanggung jawab dan sesuai dengan "prinsip-prinsip hukum internasional yang diterima secara luas dan hak asasi manusia". Namun, perubahan ini menimbulkan kekhawatiran tentang potensi risiko yang dihadapi oleh pengguna dan masyarakat luas. Sebelumnya, Google telah memastikan bahwa mereka tidak akan mengembangkan teknologi yang "menimbulkan atau kemungkinan besar menimbulkan kerusakan secara keseluruhan," termasuk senjata dan teknologi pengawasan yang melanggar "norma internasional yang diterima".

Dilansir dari Engadget (6/2), perubahan ini merupakan bagian dari tren yang lebih besar di mana perusahaan teknologi besar mulai menyesuaikan kebijakan mereka mengikuti perkembangan teknologi dan dinamika geopolitik.

Pada tahun 2018, Google mengumumkan prinsip AI mereka setelah menghadapi protes dari karyawan atas keterlibatan mereka dalam proyek Maven milik Departemen Pertahanan Amerika Serikat, yang menggunakan AI untuk mengidentifikasi target untuk serangan drone. Karena protes tersebut, Google memutuskan untuk tidak memperpanjang kontraknya dengan Pentagon.

Namun, dalam beberapa tahun terakhir, Google telah mengubah pendirian mereka dan kini bekerja sama dengan perusahaan teknologi lain seperti OpenAI dan Anduril untuk mengembangkan teknologi anti-drone. Meskipun Google mengklaim bahwa perubahan ini bertujuan untuk mengembangkan AI yang melindungi orang, mendorong pertumbuhan global, dan mendukung keamanan nasional, banyak pihak masih khawatir tentang implikasi etis dan keamanan dari penggunaan AI dalam senjata dan pengawasan.

Google juga menekankan bahwa mereka akan terus berinvestasi dalam pengembangan kemampuan AI dan meningkatkan keselamatan AI dengan mengidentifikasi dan menangani risiko potensial. Namun, perubahan ini menunjukkan bahwa Google mungkin sedang berusaha untuk tetap kompetitif di tengah persaingan global yang semakin ketat dalam pengembangan teknologi AI.