F5 Perbarui AI Gateway, Diklaim Bisa Tekan Biaya Penggunaan AI hingga 60 Persen

F5 memperbarui AI Gateway dan mengintegrasikannya ke dalam F5 AI Security Platform untuk membantu perusahaan mengendalikan biaya, akses, serta keamanan penggunaan kecerdasan buatan (AI) dalam skala besar.

Solusi tersebut dirancang menjadi satu titik kontrol untuk mengatur penggunaan berbagai model AI, agent, dan perangkat pendukung, termasuk menghitung konsumsi token berdasarkan penyedia model, tim, hingga pengguna.

F5 mengklaim fitur optimasi pada AI Gateway dirancang untuk mengurangi pengeluaran token hingga 60 persen tanpa mengharuskan perusahaan mengubah aplikasi yang sudah digunakan.

Penghematan tersebut dilakukan melalui sejumlah mekanisme, seperti smart routing, model tiering, semantic caching, dan GPU-aware load balancing. 

Sistem akan mengarahkan permintaan atau request AI ke model yang dinilai paling sesuai dengan mempertimbangkan biaya dan kebutuhan pemrosesan.

Persoalan biaya menjadi semakin penting ketika perusahaan mulai menggunakan AI dalam skala lebih besar.

Berdasarkan F5 2026 State of Application Strategy Report yang dikutip perusahaan, sebanyak 77 persen organisasi menyatakan inference kini menjadi aktivitas AI utama mereka, melampaui pelatihan maupun penyetelan model.

Rata-rata organisasi dalam laporan tersebut juga disebut mengelola hingga tujuh model AI.

Inference merupakan proses ketika model AI yang telah dilatih digunakan untuk memproses suatu masukan dan menghasilkan jawaban, prediksi, atau tindakan.

Semakin sering model digunakan, semakin besar pula konsumsi token dan sumber daya komputasi yang dapat berdampak langsung pada biaya operasional.

Chief Product Officer F5 Kunal Anand mengatakan banyak perusahaan kini bergerak cepat mengimplementasikan AI tetapi menghadapi tantangan dalam mengendalikan penggunaannya.

“Setiap permintaan AI membawa implikasi terhadap ekonomi, keamanan, dan tata kelola, namun sebagian besar organisasi masih mengandalkan perangkat yang terfragmentasi dan hanya sanggup mengatasi sebagian dari masalah tersebut. Hasilnya adalah pembengkakan biaya, peningkatan risiko, dan kompleksitas operasional,” kata Anand.

Salah satu fungsi utama AI Gateway adalah Model Gateway yang digunakan untuk mengatur akses model sekaligus memantau biaya penggunaan AI.

Sistem dapat mengatribusikan konsumsi setiap token berdasarkan penyedia, model, tim, maupun pengguna.

Perusahaan juga dapat menetapkan batas anggaran untuk setiap tim sehingga kontrol pengeluaran dapat diterapkan ketika AI digunakan, bukan baru diketahui setelah tagihan diterima.

Pendekatan tersebut dimaksudkan untuk membantu perusahaan mengetahui model dan penyedia AI mana yang paling banyak mengonsumsi anggaran serta menentukan apakah penggunaannya sebanding dengan manfaat yang diperoleh.

Selain Model Gateway, F5 AI Gateway dilengkapi MCP Gateway dan AI Guardrails.

Ketiganya menjadi tiga fungsi utama yang digunakan F5 untuk menggabungkan pengendalian biaya, tata kelola agent, serta keamanan lalu lintas AI.

MCP Gateway berfungsi mengontrol hubungan antara AI agent dengan perangkat dan sumber daya perusahaan.

Ketika jumlah AI agent bertambah, F5 menilai perusahaan juga akan menghadapi semakin banyak server Model Context Protocol atau MCP yang digunakan agent untuk berkomunikasi dengan sistem lain.

Tanpa kontrol terpusat, perusahaan berpotensi kesulitan mengetahui sumber data, API, maupun perangkat apa saja yang dapat diakses oleh setiap agent.

Melalui MCP Gateway, perusahaan dapat menentukan akses secara lebih spesifik sehingga agent hanya dapat menggunakan sumber daya yang telah mendapatkan izin.

Sumber daya tersebut dapat berupa API, sumber data, hingga sistem retrieval-augmented generation atau RAG.

Sistem juga menyediakan jejak audit yang mencatat apa yang diakses, waktu akses, agent yang mengakses, hingga atas nama siapa aktivitas dilakukan.

F5 turut menyediakan registri server MCP yang berfungsi sebagai daftar terpusat mengenai server dan perangkat yang telah disetujui perusahaan.

Fungsi lain yang ditawarkan adalah AI Guardrails untuk memeriksa prompt dan respons yang melewati sistem AI perusahaan.

F5 menyebut solusi tersebut dapat menyamarkan data sensitif sebelum dikirim ke model AI serta memblokir percobaan prompt injection dan jailbreak.

Fitur tersebut menjadi relevan ketika perusahaan menggunakan AI untuk memproses informasi seperti data pribadi, rekam medis, maupun kekayaan intelektual.

AI Guardrails juga menerapkan pendekatan fail-closed. Artinya, permintaan dapat diblokir apabila sistem tidak dapat memastikan bahwa proses tersebut telah memenuhi kebijakan yang ditetapkan.

Selain itu, F5 menyediakan jejak audit, integrasi ekspor ke sistem SIEM, pengaturan lokasi penyimpanan data, serta dukungan penyelarasan dengan sejumlah kerangka kepatuhan seperti SOC 2, ISO, dan HIPAA.

F5 memperkenalkan AI Security Platform pada awal 2026 untuk memberikan visibilitas, tata kelola, dan perlindungan terhadap aplikasi AI perusahaan, model, agent, serta API yang menghubungkannya.

Platform tersebut dibangun melalui empat pilar, yakni AI governance, pengendalian penggunaan AI, pengujian keamanan AI, serta perlindungan AI saat berjalan atau runtime.

AI Gateway kini menjadi titik penerapan kebijakan terhadap lalu lintas AI secara langsung.

Melalui satu sistem, perusahaan dapat menentukan model yang boleh digunakan, akses yang diberikan kepada agent, batas anggaran setiap tim, serta jenis data yang boleh diteruskan ke model.

“F5 AI Gateway, yang terintegrasi ke dalam F5 AI Security Platform, menyediakan satu titik kontrol untuk mengelola AI di seluruh model, cloud, agent, dan aplikasi,” kata Anand.

Menurut dia, perusahaan akan semakin membutuhkan lapisan kontrol ketika penggunaan AI berkembang dari eksperimen terbatas menjadi bagian dari proses operasional sehari-hari.