OpenAI Perkuat Pertahanan ChatGPT Atlas untuk Halau Serangan Prompt Injection

OpenAI mengembangkan pendekatan rapid response loop yang proaktif sebagai strategi utama untuk menghadapi serangan prompt injection di browser berbasis kecerdasan buatan (AI) miliknya, ChatGPT Atlas.

Pendekatan ini dirancang agar sistem mampu merespons serangan secara cepat dan adaptif, terutama terhadap teknik prompt injection yang terus berkembang.
 
Dalam sebuah blog terbaru, OpenAI membahas berbagai risiko keamanan siber pada browser AI miliknya, Atlas, sekaligus menyampaikan pandangan realistis terkait ancaman yang terus berkembang.

“Prompt injection, seperti halnya penipuan dan social engineering di web, kecil kemungkinan bisa sepenuhnya ‘diselesaikan’,” tulis OpenAI dalam blog resminya.

Prompt injection merupakan teknik serangan di mana perintah berbahaya disisipkan ke dalam sistem AI tanpa sepengetahuan atau persetujuan pengguna. 

Dalam konteks browser AI, serangan ini bisa terjadi ketika AI diberi izin membaca seluruh isi sebuah situs web.