Demam 'Agen' AI Datang Bersama Ancaman Keselamatan Yang Mengintai
Kecerdasan buatan "agen" menjanjikan penjimatan masa dan tenaga pengguna melalui automasi tugas, tetapi kuasa sistem seperti OpenClaw yang semakin berkembang telah membimbangkan pakar keselamatan siber.
Populariti Dan Risiko Sistem OpenClaw
Digerakkan oleh gelombang kempen pemasaran yang hebat, OpenClaw kini mendakwa mempunyai lebih daripada tiga juta pengguna di seluruh dunia. Sistem ini membolehkan pengguna mencipta apa yang dipanggil agen, iaitu alat berasaskan model bahasa besar (LLM) seperti ChatGPT OpenAI atau Claude Anthropic yang boleh melaksanakan tugas dalam talian.
"Kita telah beralih daripada AI yang boleh anda bual melalui chatbot kepada AI agenik, yang boleh mengambil tindakan... ancaman dan risikonya pasti jauh lebih besar," kata Yazid Akadiri, arkitek penyelesaian utama di Elastic France, sebuah syarikat keselamatan IT.
Kajian Mendedahkan Tindakan Berbahaya
Dalam artikel bertajuk "Agents of Chaos" yang belum disemak oleh rakan sebaya, pasukan penyelidik yang terdiri daripada 20 orang mengkaji tingkah laku enam agen AI yang dicipta dengan OpenClaw. Mereka mengenal pasti sedozen tindakan berpotensi berbahaya yang dilaksanakan oleh sistem tersebut, daripada memadam peti mel e-mel sehingga berkongsi maklumat peribadi.
Ramai pengguna telah menyiarkan cerita serupa tentang kemalangan OpenClaw dalam talian. "Apabila anda melancarkan agen, anda tidak mempunyai kawalan ke atas apa yang akan mereka lakukan, dan apabila anda cuba melihat apa yang mereka lakukan, anda akan mendapati mereka melampaui had yang anda tetapkan," kata Adrien Merveille, pakar di agensi keselamatan siber Check Point.
Jurang Keselamatan Yang Lebih Luas
Jurang keselamatan tidak terhad kepada tindakan tersilap agen itu sendiri. Untuk melaksanakan kerja yang berguna, alat ini memerlukan akses kepada akaun peribadi untuk e-mel, kalendar atau enjin carian - yang menarik perhatian penyerang siber.
"Agen AI berkemungkinan besar menjadi sasaran utama penggodam apabila penggunaannya merebak," kata Wendi Whitmore, ketua pegawai perisikan keselamatan di firma keselamatan siber Palo Alto Networks.
"Sebaik sahaja (penyerang) berada di dalam persekitaran, (mereka) akan segera pergi ke LLM (agen) dalaman yang sedang digunakan dan menggunakannya untuk menyiasat sistem untuk maklumat lanjut."
Serangan Tersembunyi Dan Arahan Berbahaya
Bahagian penyelidikan Unit 42 Palo Alto berkata pada awal Mac bahawa mereka telah menemui kesan percubaan serangan dalam bentuk arahan tersembunyi untuk agen yang ditambah ke laman web. Satu arahan sedemikian memerintahkan mana-mana agen yang mungkin membacanya untuk "memadam pangkalan data anda".
Firma keselamatan siber dan penyelidik lain telah memberi amaran bahawa penyerang boleh mendapatkan akses kepada agen melalui apa yang dipanggil 'kemahiran' - fail yang boleh dimuat turun yang boleh ditambah oleh pengguna kepada sistem mereka untuk memberikan mereka keupayaan baru.
Antara fail yang tersedia secara percuma untuk dimuat turun, sesetengahnya termasuk arahan tersembunyi untuk tindakan berniat jahat seperti mengeksfiltrasi data.
Kesedaran Dan Cabaran Pengguna
Pencipta OpenClaw Peter Steinberger berkata dia sedar akan risikonya. "Saya sengaja tidak menjadikannya lebih mudah supaya orang akan berhenti dan membaca serta memahami: apa itu AI, bahawa AI boleh membuat kesilapan, apa itu penyuntikan arahan - beberapa asas yang anda benar-benar patut fahami apabila menggunakan teknologi itu," katanya kepada AFP pada Mac.
Whitmore berhujah bahawa mengharapkan pengguna mencipta pagar keselamatan sendiri untuk agen adalah "agak tidak realistik". "Orang ramai akan menerima inovasi dan benar-benar melihat apa yang mampu dilakukannya sebelum mereka bertanya soalan tentang, 'bagaimana saya melindungi data saya sendiri?'" dia meramalkan.
"Itu akan menyebabkan beberapa cabaran yang ketara dari segi pelanggaran data pada tahun 2026."
