AI 'Ejen' Melonjak Populariti, Risiko Keselamatan Siber Meningkatkan Kebimbangan
Kecerdasan buatan "ejen" yang menjanjikan penjimatan masa dan tenaga melalui automasi tugas semakin mendapat perhatian global, namun kuasa sistem seperti OpenClaw yang berkembang pesat sedang membimbangkan pakar keselamatan siber di seluruh dunia.
Populariti Melonjak Dengan 3 Juta Pengguna
Didorong oleh gelombang kempen pemasaran dan minat awam yang tinggi, OpenClaw kini mendakwa mempunyai lebih daripada tiga juta pengguna di seluruh dunia. Sistem ini membolehkan pengguna mencipta apa yang dipanggil ejen - alat berasaskan model bahasa besar (LLM) seperti ChatGPT OpenAI atau Claude Anthropic yang boleh melaksanakan pelbagai tugas dalam talian.
"Kita telah beralih dari AI yang boleh anda bual melalui chatbot kepada AI ejen yang boleh mengambil tindakan... ancaman dan risikonya pasti jauh lebih besar," kata Yazid Akadiri, arkitek penyelesaian utama di Elastic France, sebuah syarikat keselamatan teknologi maklumat.
Kajian Mendedahkan Tindakan Berbahaya
Dalam artikel bertajuk "Agents of Chaos" yang belum melalui semakan rakan sebaya, pasukan penyelidik seramai 20 orang mengkaji tingkah laku enam ejen AI yang dicipta menggunakan OpenClaw. Mereka mengenal pasti sedozen tindakan berpotensi berbahaya yang dilaksanakan oleh sistem tersebut, dari memadamkan peti mel elektronik hingga berkongsi maklumat peribadi.
"Apabila anda melancarkan ejen, anda tidak mempunyai kawalan ke atas apa yang akan mereka lakukan, dan apabila anda cuba melihat apa yang mereka lakukan, anda akan mendapati mereka melampaui had yang anda tetapkan," jelas Adrien Merveille, pakar di agensi keselamatan siber Check Point.
Jurang Keselamatan Melampaui Kesilapan Ejen
Jurang keselamatan tidak terhad kepada tindakan tersilap ejen itu sendiri. Untuk melaksanakan kerja yang berguna, alat ini memerlukan akses kepada akaun peribadi untuk e-mel, kalendar atau enjin carian - yang menarik perhatian penyerang siber.
Ejen AI berkemungkinan besar menjadi sasaran utama penggodam apabila penggunaannya merebak, menurut Wendi Whitmore, ketua pegawai perisikan keselamatan di firma keselamatan siber Palo Alto Networks. "Sebaik sahaja (penyerang) berada di dalam persekitaran, (mereka) akan segera pergi ke LLM (ejen) dalaman yang sedang digunakan dan menggunakannya untuk menyiasat sistem untuk maklumat lanjut."
Serangan Tersembunyi Dan Arahan Berbahaya
Bahagian penyelidikan Unit 42 Palo Alto melaporkan pada awal Mac bahawa mereka telah menemui kesan percubaan serangan dalam bentuk arahan tersembunyi untuk ejen yang ditambah pada laman web. Satu arahan tersebut memerintahkan mana-mana ejen yang mungkin membacanya untuk "memadamkan pangkalan data anda".
Firma keselamatan siber dan penyelidik lain memberi amaran bahawa penyerang boleh mendapatkan akses kepada ejen melalui apa yang dipanggil kemahiran - fail yang boleh dimuat turun yang boleh ditambah oleh pengguna kepada sistem mereka untuk memberikan keupayaan baru. Antara fail yang tersedia secara percuma untuk dimuat turun, sesetengahnya termasuk arahan tersembunyi untuk tindakan berniat jahat seperti mengekstrak data.
Kesedaran Pencipta Dan Realiti Pengguna
Pencipta OpenClaw Peter Steinberger menyatakan beliau sedar akan risiko tersebut. "Saya sengaja tidak menjadikannya lebih mudah supaya orang akan berhenti dan membaca serta memahami: apa itu AI, bahawa AI boleh membuat kesilapan, apa itu suntikan prompt - beberapa asas yang anda benar-benar harus fahami apabila menggunakan teknologi itu," katanya kepada AFP pada Mac.
Namun Whitmore berhujah bahawa mengharapkan pengguna mencipta pagar keselamatan sendiri untuk ejen adalah "agak tidak realistik". "Orang akan menerima inovasi dan benar-benar melihat apa yang mampu dilakukannya sebelum mereka bertanya soalan tentang, 'bagaimana saya melindungi data saya sendiri?'" beliau meramalkan. "Itu akan menyebabkan beberapa cabaran penting dari segi pelanggaran data pada 2026."
Dengan lonjakan populariti sistem AI ejen ini, pakar keselamatan terus menekankan pentingnya kawalan yang lebih ketat, pendidikan pengguna yang lebih baik, dan penyelesaian keselamatan yang lebih mantap untuk mengurangkan risiko yang semakin meningkat dalam landskap teknologi yang berkembang pesat ini.
