Kata pemerintah AS, AI bisa bikin umat manusia punah

Pemerintah Amerika Serikat (AS) telah mengeluarkan peringatan serius terkait potensi bahaya teknologi kecerdasan buatan (AI) yang dapat mengancam eksistensi umat manusia. Laporan terbaru dari Departemen Luar Negeri AS menyoroti kekhawatiran akan risiko keamanan nasional yang timbul akibat pesatnya perkembangan AI.

Dilansir dari ABC News (15/3), berdasarkan laporan yang dirilis minggu ini oleh Gladstone AI, lebih dari 200 orang termasuk eksekutif perusahaan-perusahaan AI terkemuka, peneliti keamanan siber, ahli senjata pemusnah massal, dan pejabat keamanan nasional di dalam pemerintahan, diwawancarai untuk mendapatkan pemahaman yang lebih dalam tentang situasi ini. Laporan tersebut dengan tegas menyatakan bahwa dalam skenario terburuk, sistem AI paling canggih dapat menghadirkan ancaman kepunahan bagi umat manusia.

Seorang pejabat Departemen Luar Negeri AS mengonfirmasi bahwa laporan tersebut disusun dengan tujuan untuk melindungi kepentingan AS di dalam dan luar negeri, namun menegaskan bahwa itu tidak mencerminkan pandangan resmi pemerintah AS.

CEO Gladstone AI, Jeremie Harris, menggarisbawahi bahwa meskipun AI memiliki potensi besar untuk keuntungan ekonomi dan ilmiah, namun juga membawa risiko serius, termasuk ancaman bencana yang harus diwaspadai. Ada keprihatinan bahwa AI, jika tidak terkendali, dapat menjadi sumber masalah besar di masa depan.

Pemerintah AS telah mengambil langkah-langkah untuk mengatasi risiko ini, termasuk dengan perintah eksekutif Presiden Joe Biden tentang AI, yang dianggap sebagai tindakan paling signifikan dalam mengelola risiko kecerdasan buatan.

Namun, para peneliti memperingatkan bahwa ada dua bahaya utama yang timbul dari AI: pertama, AI paling canggih dapat digunakan untuk menciptakan kerusakan yang tidak dapat diperbaiki, dan kedua, ada risiko bahwa para pakar kehilangan kendali atas sistem AI yang mereka kembangkan, dengan potensi konsekuensi yang menghancurkan keamanan global.

Laporan Gladstone AI menyerukan langkah-langkah serius untuk menghadapi ancaman ini, termasuk pendirian badan AI baru, perlindungan peraturan "darurat," dan pembatasan penggunaan daya komputer untuk melatih model AI. Para penulis laporan menekankan perlunya intervensi mendesak dari pemerintah AS untuk mengatasi risiko ini.

Sementara itu, tekanan persaingan di industri AI meningkatkan risiko bahwa sistem AI yang paling canggih dapat digunakan melawan AS. Ini menyoroti perlunya upaya lebih lanjut dalam mengamankan dan mengelola perkembangan teknologi AI untuk melindungi keamanan nasional dan eksistensi manusia secara keseluruhan.