Kaspersky Ungkap Strategi Aman Mengelola Agen AI di Organisasi
Kaspersky membagikan strategi mengelola agen AI secara aman, mulai dari pembatasan akses hingga pengawasan ketat dan pelatihan pengguna.
Pemanfaatan agen kecerdasan buatan (AI agent) di lingkungan organisasi kian meluas, namun di saat yang sama menghadirkan tantangan baru di bidang keamanan siber.
Risiko yang ditimbulkan bukan lagi bersifat teoritis, mulai dari gangguan layanan pelanggan hingga potensi kerusakan serius seperti penghapusan basis data utama perusahaan.
Situasi ini menjadi perhatian serius para pimpinan bisnis, regulator, hingga pakar keamanan. Bagi CIO dan CISO, agen AI memunculkan persoalan tata kelola yang kompleks karena mampu membuat keputusan, menggunakan berbagai alat, serta memproses data sensitif tanpa campur tangan manusia.
Dalam banyak kasus, perangkat teknologi informasi dan sistem keamanan konvensional bahkan belum siap mengendalikan perilaku AI yang bersifat otonom.
Perusahaan keamanan siber global Kaspersky menilai keamanan sempurna dalam sistem AI berbasis agen hampir mustahil dicapai. Hal ini disebabkan sifat probabilistik model bahasa besar (LLM) serta minimnya pemisahan antara instruksi dan alur data.