Peneliti Ungkap Celah Browser AI yang Bisa Bocorkan Akun

Ilustrasi Artificial Intelligence - Freepik

Harianjogja.com, JOGJA—Perkembangan teknologi kecerdasan buatan (AI) yang semakin terintegrasi dengan browser internet ternyata menghadirkan tantangan keamanan baru. Tim peneliti dari perusahaan keamanan siber LayerX mengungkap metode serangan bernama BioShocking yang mampu memanfaatkan kelemahan pada fitur agen AI untuk mencuri kredensial pengguna.

Temuan ini menjadi perhatian serius karena serangan tersebut berhasil diuji terhadap sejumlah browser dan asisten AI populer. Dalam laporan penelitian tersebut, enam platform berhasil dimanipulasi untuk mengambil informasi login pengguna dan mengirimkannya kepada penyerang.

Platform yang disebut terdampak dalam pengujian meliputi ChatGPT Atlas milik OpenAI, Comet dari Perplexity, serta ekstensi browser Claude milik Anthropic, bersama beberapa agen AI lainnya.

Serangan BioShocking memanfaatkan fitur mode agen atau agent mode yang kini mulai banyak diterapkan dalam browser berbasis AI. Fitur tersebut memungkinkan agen AI tidak hanya membaca halaman web, tetapi juga melakukan berbagai tindakan atas nama pengguna, termasuk mengakses situs yang sedang dalam kondisi login.

Menurut peneliti, masalah muncul karena sistem AI membaca instruksi pengguna dan konten halaman web dalam satu aliran informasi yang sama. Kondisi tersebut membuka peluang bagi situs berbahaya untuk menyisipkan instruksi tersembunyi yang terlihat seperti bagian normal dari halaman.

Teknik tersebut dikenal sebagai indirect prompt injection, yaitu metode manipulasi yang membuat AI menjalankan perintah yang sebenarnya berasal dari situs web berbahaya, bukan dari pengguna.

Dalam simulasi yang dilakukan peneliti, serangan diawali dengan halaman web yang tampak seperti permainan teka-teki biasa. Namun, di balik tampilannya yang sederhana, terdapat instruksi tersembunyi yang dirancang untuk mengubah logika pengambilan keputusan agen AI.

Agen AI kemudian diarahkan untuk menerima aturan permainan yang tidak lazim, termasuk menganggap jawaban yang salah sebagai jawaban yang benar. Setelah logika tersebut diterima, sistem AI menjadi lebih mudah dimanipulasi untuk menjalankan instruksi berikutnya.

Pada tahap akhir, agen AI diminta mengambil kredensial login pengguna yang tersimpan atau sedang aktif digunakan. Hasil pengujian menunjukkan tidak ada satu pun agen AI yang secara otomatis mengenali permintaan tersebut sebagai aktivitas berbahaya.

Temuan ini memunculkan kekhawatiran baru terkait keamanan penggunaan browser berbasis AI yang semakin populer di kalangan pengguna internet.

LayerX juga menyoroti perbedaan respons dari masing-masing pengembang setelah menerima laporan kerentanan tersebut. OpenAI disebut telah melakukan penanganan dan memperbaiki celah yang ditemukan pada ChatGPT Atlas.

Sementara itu, laporan menyebut Perplexity menutup laporan tanpa tindakan lanjutan. Beberapa vendor lain, seperti Fellou, Genspark, dan Sigma, disebut tidak memberikan tanggapan. Adapun perbaikan yang dilakukan Anthropic pada Claude dinilai belum mampu mengatasi masalah secara efektif.

Bagi pengguna internet, temuan ini menjadi pengingat bahwa kemudahan yang ditawarkan AI harus dibarengi dengan kehati-hatian. Para ahli menyarankan pengguna membatasi akses yang diberikan kepada agen AI, terutama pada akun-akun penting yang sedang dalam kondisi login.

Selain itu, pengguna dianjurkan segera mencabut izin akses setelah selesai menggunakan fitur agen AI. Langkah sederhana tersebut dapat mengurangi risiko apabila terjadi penyalahgunaan akses oleh situs berbahaya.

Masyarakat juga diminta lebih waspada terhadap situs yang menawarkan permainan, kuis, atau teka-teki yang meminta akses ke akun tertentu. Modus seperti itu dapat dimanfaatkan untuk menyisipkan instruksi tersembunyi yang sulit dikenali oleh sistem AI.

Seiring semakin luasnya penggunaan kecerdasan buatan dalam aktivitas digital sehari-hari, keamanan siber menjadi aspek yang tidak bisa diabaikan. Kasus BioShocking menunjukkan bahwa inovasi teknologi selalu diikuti munculnya metode serangan baru yang terus berkembang. Karena itu, kewaspadaan pengguna dan pembaruan sistem keamanan secara berkala menjadi pertahanan utama untuk melindungi data pribadi dari ancaman siber generasi terbaru.

Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.