F5 dan Nvidia Perkuat Keamanan AI, Cegah Prompt Injection hingga Kebocoran Data

Penggunaan kecerdasan buatan (AI) yang semakin luas di lingkungan perusahaan membawa tantangan baru dalam keamanan siber. 

Risiko tidak lagi berhenti pada aplikasi konvensional, tetapi merambah interaksi dengan large language model (LLM), mulai dari prompt injection, paparan data pribadi, hingga kebocoran informasi perusahaan.

Untuk menghadapi risiko tersebut, F5 mengintegrasikan F5 AI Guardrails dengan Nvidia NeMo Guardrails. 

Integrasi ini ditujukan untuk memberikan pengamanan dan tata kelola secara terpusat ketika perusahaan membawa aplikasi AI dari tahap eksperimen menuju lingkungan produksi.

Persoalan menjadi semakin kompleks ketika organisasi menggunakan beragam model dan framework AI pada infrastruktur hybrid multicloud. 

Kontrol keamanan yang diterapkan secara terpisah pada masing-masing aplikasi berpotensi membuat kebijakan tidak konsisten sekaligus menyulitkan perusahaan memantau aktivitas AI secara menyeluruh.

Chief Product Officer F5 Kunal Anand mengatakan persoalan yang dihadapi perusahaan bukan semata-mata kekurangan aplikasi AI, tetapi bagaimana menerapkan standar keamanan dan tata kelola yang konsisten terhadap seluruh aplikasi tersebut.

“Perusahaan tidak kekurangan aplikasi AI. Mereka kekurangan keamanan dan governance yang konsisten di seluruh aplikasi tersebut,” kata Anand dalam keterangannya.

Menurut dia, fragmentasi kontrol keamanan dapat menambah risiko dan kompleksitas ketika AI mulai digunakan dalam sistem produksi. 

Integrasi F5 AI Guardrails dan Nvidia NeMo Guardrails dirancang untuk menyediakan satu lapisan pemeriksaan terhadap lalu lintas AI sekaligus menerapkan kebijakan keamanan secara terpusat.

F5 AI Guardrails bekerja dengan memeriksa prompt yang dikirim pengguna dan respons yang dihasilkan LLM secara real-time. 

Mekanisme tersebut ditujukan untuk mendeteksi dan mengurangi risiko prompt injection, penyebaran data tanpa izin, paparan informasi pribadi atau PII, hingga keluaran AI yang berbahaya.

Berbeda dengan kontrol yang ditanamkan secara individual pada setiap aplikasi, kebijakan keamanan dapat dikelola dari satu lapisan terpusat. 

Dengan demikian, organisasi tidak harus mengubah kode pada setiap aplikasi AI ketika ingin menerapkan atau memperbarui kebijakan keamanan.

Integrasi tersebut juga memberikan visibilitas terhadap perilaku aplikasi AI yang menggunakan model maupun framework berbeda. 

Tim keamanan dapat memantau dan mengaudit aktivitas dari satu lapisan operasional, sementara pengembang tetap dapat mengembangkan aplikasi secara terpisah.

F5 menyebut pendekatan tersebut memungkinkan setiap komponen, mulai dari framework, microservices, orkestrasi hingga fungsi keamanan, diperbarui atau ditingkatkan secara independen sesuai kebutuhan.

Senior Director AI Networking and Security Solutions, Ecosystem and Marketing NVIDIA Ash Bhalgat mengatakan NeMo Guardrails menyediakan framework terbuka yang dapat diprogram untuk menerapkan kebijakan keselamatan dan keamanan pada aplikasi AI.

“Integrasi dengan F5 AI Guardrails memperluas jangkauan perlindungan yang dapat dimanfaatkan oleh pelanggan untuk mengamankan prompts dan respons LLM saat mereka membawa AI agent ke fase production,” ujar Bhalgat.

Salah satu persoalan dalam pengembangan AI perusahaan adalah cepatnya perubahan teknologi. Organisasi dapat menggunakan lebih dari satu LLM, mengganti model, atau menambahkan aplikasi baru sesuai kebutuhan bisnis.

Integrasi F5 AI Guardrails dengan Nvidia NeMo Guardrails dirancang agar tidak bergantung pada satu LLM tertentu. 

Dengan pendekatan tersebut, perusahaan dapat mengganti model maupun menambahkan aplikasi tanpa harus membangun ulang lapisan pemeriksaan keamanan dari awal.

F5 juga menempatkan keamanan sebagai lapisan terpisah dari framework AI. Pendekatan ini memungkinkan tim pengembang berfokus pada orkestrasi dan pengembangan aplikasi, sementara tim keamanan tetap mengendalikan pemeriksaan, kebijakan, serta tata kelola.

Vice President Ecosystem Development Equinix Maryam Zand menilai kemampuan menerapkan kebijakan keamanan secara konsisten menjadi penting ketika infrastruktur AI tersebar di lingkungan privat maupun multicloud.

“Kolaborasi kami dengan F5 memperluas penegakan keamanan dan policy yang konsisten di seluruh distributed environment tersebut, sehingga memungkinkan pelanggan untuk mengembangkan skala AI dengan percaya diri tanpa mengorbankan kinerja, kedaulatan data, dan fleksibilitas pilihan,” kata Zand.

Vice President AI and Infrastructure Partners Red Hat Ryan King menambahkan integrasi tersebut memperluas perlindungan ketika AI telah beroperasi untuk membantu perusahaan mengimplementasikan dan meningkatkan skala workload AI.

Sementara itu, Global VP AI and Cyber WWT Chris Konrad menilai keamanan perlu dibangun sebelum aplikasi AI memasuki tahap produksi. Integrasi F5 dan Nvidia menurut dia menambahkan tata kelola berbasis kebijakan serta perlindungan saat aplikasi dijalankan.