Model AI Claude Mythos Dedah Ribuan Kelemahan Perisian, Ancaman Keselamatan Siber Meningkat

Model AI Claude Mythos Dedah Ribuan Kelemahan Perisian Yang Tidak Pernah Dikesan

Pembangun kecerdasan buatan (AI) Anthropic mengumumkan bahawa model AI terbaharu mereka, Claude Mythos, telah berjaya mendedahkan ribuan kelemahan dalam perisian yang digunakan secara meluas di seluruh dunia. Yang membimbangkan, kebanyakan kelemahan ini tidak pernah dikesan oleh pembangun asal dan tiada pembaikan atau tampalan yang tersedia untuk menutupinya.

Ancaman Keselamatan Siber Mencapai Tahap Baru

Menurut kenyataan rasmi Anthropic, model AI ini telah mencapai tahap keupayaan pengaturcaraan yang membolehkannya mengatasi kebanyakan manusia dalam mencari dan mengeksploitasi kelemahan perisian. "Kesan buruknya terhadap ekonomi, keselamatan awam, dan keselamatan negara boleh menjadi teruk," amaran syarikat itu dalam satu catatan blog.

Kelemahan yang ditemui oleh Claude Mythos seringkali sangat halus dan sukar dikesan tanpa bantuan AI. Sebagai contoh, model ini berjaya menemui kecacatan dalam perisian video yang telah diuji lebih daripada 5 juta kali oleh pembangunnya sendiri. Yang lebih mengejutkan, kelemahan tertua yang ditemui berusia 27 tahun, menunjukkan betapa lama beberapa masalah ini wujud tanpa pengetahuan umum.

—

Sebagai langkah berjaga-jaga, Anthropic telah membentuk pakatan strategik dengan pakar keselamatan siber dan syarikat teknologi terkemuka dalam inisiatif yang dinamakan "Glasswing". Projek ini melibatkan perkongsian versi terhad Claude Mythos dengan syarikat seperti CrowdStrike, Palo Alto Networks, Amazon, Apple, dan Microsoft.

"Kerja ini terlalu penting dan terlalu mendesak untuk dilakukan sendirian," kata Ketua Pegawai Keselamatan dan Amanah Cisco, Anthony Grieco, dalam kenyataan bersama mengenai Glasswing. "Keupayaan AI telah melintasi ambang yang mengubah asas keperluan mendesak untuk melindungi infrastruktur kritikal daripada ancaman siber, dan tiada jalan kembali."

Perubahan Paradigma dalam Perlindungan Siber

Menurut pakar industri, kemajuan dalam teknologi AI telah mengubah landskap keselamatan siber secara drastik. Elia Zaitsev, Ketua Pegawai Teknologi Crowdstrike, menjelaskan: "Tetingkap antara kelemahan ditemui dan dieksploitasi oleh musuh telah runtuh - apa yang pernah mengambil masa berbulan-bulan kini berlaku dalam beberapa minit dengan AI."

Kira-kira 40 organisasi yang terlibat dalam reka bentuk, penyelenggaraan atau operasi sistem komputer telah menyertai projek Glasswing. Anthropic menyediakan sumber pengkomputeran bernilai kira-kira AS$100 juta untuk misi ini, manakala rakan kongsi projek akan berkongsi penemuan mereka menggunakan Claude Mythos.

Berbeza dengan model AI sebelumnya, Anthropic secara sengaja memilih untuk tidak mengeluarkan Claude Mythos kepada orang awam. Sebaliknya, syarikat itu membenarkan pakar keselamatan siber dan jurutera dalam komuniti sumber terbuka bekerja dengan model ini sebagai senjata pertahanan.

"Kami mempunyai model baru yang kami sengaja tidak keluarkan kepada orang awam," jelas Mike Krieger dari Anthropic Labs dalam persidangan HumanX AI di San Francisco. "Kami membenarkan pakar keselamatan siber menggunakan model ini sebagai senjata pertahanan, seolah-olah melengkapkan mereka terlebih dahulu."

Implikasi Undang-undang dan Kerajaan

Anthropic mengesahkan bahawa mereka telah menjalankan perbincangan dengan kerajaan Amerika Syarikat mengenai Claude Mythos, walaupun terdapat arahan dari Rumah Putih pada Februari untuk menamatkan semua kontrak dengan syarikat permulaan itu. Arahan tersebut telah digantung sementara oleh hakim mahkamah persekutuan sementara cabaran undang-undang oleh Anthropic sedang diproses di mahkamah.

Kebocoran kod Claude Mythos baru-baru ini telah mendorong Anthropic mengeluarkan amaran rasmi tentang risiko keselamatan siber yang belum pernah terjadi sebelumnya. Syarikat itu menekankan bahawa walaupun AI menawarkan potensi besar untuk pertahanan siber, ia juga menimbulkan ancaman yang sama besar jika jatuh ke tangan yang salah.