Tim peneliti dari Trail of Bits baru-baru ini mengungkapkan metode serangan siber yang berpotensi membahayakan sistem kecerdasan buatan (AI) melalui injeksi prompt tersembunyi dalam gambar. Serangan ini memanfaatkan kelemahan dalam proses pemrosesan gambar untuk menyisipkan instruksi berbahaya yang tidak terlihat oleh pengguna. Ketika gambar diturunkan resolusinya menggunakan algoritma tertentu, pola-pola tersembunyi dalam gambar dapat berubah menjadi instruksi teks yang dieksekusi oleh model AI tanpa sepengetahuan pemilik data.
Dalam sejumlah percobaan, peneliti Kikimora Morozova dan Suha Sabi Hussain menunjukkan bahwa pendekatan ini secara efektif dapat membobol berbagai produk AI yang dikembangkan oleh Google, termasuk Gemini CLI dan Vertex AI Studio. Menariknya, serangan ini dapat mengeksfiltrasi data sensitif dari Google Calendar ke alamat email asing hanya dengan alat yang tidak memiliki lapisan perlindungan yang memadai.
Ancaman yang Meningkat
Laporan dari Bleeping Computer menerangkan bahwa serangan ini berpotensi mengakibatkan bocornya data tanpa adanya konfirmasi dari pengguna. Hal ini menciptakan peluang bagi para penyerang untuk memanfaatkan sistem AI demi keuntungan pribadi, membuat pengguna lebih rentan terhadap pencurian data.
Menghadapi ancaman ini, Trail of Bits merekomendasikan beberapa langkah mitigasi. Pertama, pembatasan dimensi gambar penting untuk mencegah penyisipan instruksi berbahaya. Selain itu, pratinjau hasil gambar sebelum dikirim ke model bahasa besar (LLM) harus dilakukan. Usulan lain adalah menciptakan konfirmasi eksplisit dari pengguna untuk aktivitas yang berisiko tinggi dan memperkuat desain sistem AI agar dapat menahan berbagai jenis injeksi prompt multimodal.
Pentingnya Kesadaran dan Proteksi
Dalam konteks keamanan dunia maya saat ini, kesadaran pengguna menjadi sangat krusial. Data dari Kaspersky menunjukkan bahwa ancaman berbahaya di komputer sistem kontrol industri (ICS) telah meningkat, terutama di sektor konstruksi dan manufaktur. Pada kuartal pertama 2025, Asia Tenggara mencatat persentase lebih tinggi dalam pemblokiran objek berbahaya dibandingkan rata-rata global.
Adrian Hia, Managing Director Kaspersky untuk Asia Pasifik, menekankan pentingnya menggabungkan teknologi digital dengan proteksi yang kuat. “Bisnis harus memitigasi ancaman secara komprehensif untuk memperkuat lapisan perlindungan dan ketahanan mereka,” ungkap Hia.
Trend peningkatan serangan siber ini juga berpotensi mengancam perangkat industri yang mengandalkan jaringan murah dan langkah-langkah keamanan yang sudah ketinggalan zaman. Dalam hal ini, peninjauan kembali terhadap protokol keamanan sangat diperlukan untuk mencegah eksploitasi yang merugikan.
Inovasi Dalam Menyikapi Ancaman
Sebagai langkah inovatif, peneliti Trail of Bits juga memperkenalkan ‘Anamorpher’, alat open-source yang digunakan untuk menghasilkan gambar ‘jahat’ yang sesuai dengan algoritma downscaling. Hal ini dapat membantu para pengembang AI untuk lebih memahami dan mengantisipasi ancaman baru dalam dunia keamanan data pengguna.
Kesadaran akan jenis serangan baru ini sangat penting, terutama bagi pengembang dan pengguna sistem AI yang semakin kompleks. Dengan teknologi yang terus berkembang, pendekatan proaktif dalam pengamanan sistem perlu diutamakan agar investasi dalam teknologi tidak sia-sia akibat serangan siber yang merugikan.
Ancaman dari injeksi prompt pada gambar menggarisbawahi kebutuhan untuk memperkuat protokol keamanan serta meningkatkan efek keamanan pada berbagai aplikasi kecerdasan buatan. Upaya multilayer dalam perlindungan diperlukan untuk memahami dan menangani serangan yang terus berevolusi di era digital ini.
-
-
-
-
