Peneliti Temukan Celah Keamanan Serius di ChatGPT, Berpotensi Dimanfaatkan Peretas

Sejumlah peneliti keamanan siber mengungkap temuan celah keamanan pada ChatGPT yang berpotensi dimanfaatkan pelaku kejahatan siber untuk menyisipkan perintah tersembunyi, mencuri data sensitif, hingga menyebarkan misinformasi. 

Riset ini dilakukan oleh pakar keamanan siber dari Tenable yang menguji model ChatGPT-4o dan menemukan tujuh kerentanan yang mereka sebut sebagai “HackedGPT.”

Dalam temuan tersebut, para peneliti menjelaskan celah ini memungkinkan serangan prompt injection, yaitu teknik menyisipkan instruksi tersembunyi yang kemudian diikuti oleh model tanpa disadari pengguna. 

Celah yang ditemukan di antaranya adalah:

1. Indirect prompt injection melalui situs tepercaya: perintah berbahaya disamarkan di situs publik dan dapat ‘dibaca’ oleh ChatGPT.
2. 0-click injection: ketika ChatGPT melakukan pencarian dan tanpa sengaja mengeksekusi instruksi tersembunyi dalam halaman web.
3. Prompt injection 1-click: pengguna cukup klik tautan berisi instruksi tersembunyi.
4. Bypass mekanisme keamanan: instruksi berbahaya dikemas dalam link tepercaya sehingga lolos dari filter.
5. Conversation injection: instruksi tersembunyi dapat tersisip dalam riwayat percakapan.
6. Malicious content hiding: instruksi berbahaya disembunyikan dalam potongan kode atau markdown.
7. Persistent memory injection: instruksi dapat tersimpan permanen dalam chat dan terus dijalankan.

Menurut Tenable, sebagian celah telah ditangani OpenAI di model GPT-5, namun tidak seluruhnya, sehingga potensi risiko bagi pengguna masih ada. 

Peneliti juga mencatat masalah serupa ditemukan pada Gemini milik Google, terutama karena integrasinya dengan Gmail yang memungkinkan penyisipan perintah tersembunyi dalam email.

“HackedGPT menunjukkan kelemahan fundamental dalam cara model bahasa besar menilai informasi yang dapat dipercaya,” ujar Moshe Bernstein, Senior Research Engineer di Tenable, dikutip dari TechRadar.

Ia menambahkan meski tiap celah tampak kecil, gabungannya dapat membentuk rantai serangan lengkap mulai dari injeksi instruksi, penghindaran deteksi, hingga pencurian data.

Tenable mendorong penyedia layanan AI, termasuk OpenAI, untuk memperkuat sistem pertahanan dan memperketat verifikasi mekanisme keamanan. 

Meski begitu, para peneliti menegaskan kewaspadaan pengguna tetap menjadi kunci guna menghindari jebakan prompt injection yang dapat terjadi tanpa disadari.