Institut Future of Life (FLI) yang berpangkalan di Amerika Syarikat telah mengeluarkan laporan penarafan keselamatan AI global pada Selasa, mendedahkan bahawa industri AI secara keseluruhannya masih gagal menangani risiko 'kewujudan' yang ditimbulkan oleh AI canggih. Anthropic, makmal AI terkemuka, menduduki tangga teratas namun hanya memperoleh gred C+ secara keseluruhan.
Penilaian Sembilan Syarikat AI Terkemuka
Laporan FLI menilai sembilan syarikat AI terkemuka dunia berdasarkan enam kategori: penilaian risiko, bahaya semasa, rangka kerja keselamatan, keselamatan kewujudan, tadbir urus dan akauntabiliti, serta perkongsian maklumat. Tujuh penyelidik dan pakar tadbir urus menjalankan penilaian menggunakan maklumat awam dan data yang disediakan oleh syarikat sendiri. Tiada satu pun syarikat mendapat gred 'A' dalam mana-mana kategori.
Meta menaiki dua anak tangga ke tempat keempat, manakala xAI jatuh tiga tempat ke tangga ketujuh, diikuti oleh DeepSeek dari China dan Mistral dari Perancis yang berada di kedudukan terakhir. Mistral, yang muncul dalam penarafan buat pertama kali, mempertikaikan penilaian tersebut. Menurut Max Tegmark, presiden FLI, Mistral tidak menjawab soal selidik institut itu walaupun telah dihubungi berkali-kali.
Kritikan Terhadap Penglibatan Ketenteraan
Laporan itu mengkritik beberapa syarikat yang sebelum ini berjanji tidak membenarkan teknologi mereka digunakan untuk tujuan ketenteraan, tetapi kini telah melembutkan pendirian. Anthropic secara khusus dikecam kerana 'penglibatan ketenteraan yang diragui'. Menurut pelbagai laporan media, kerajaan AS menggunakan teknologi Anthropic semasa operasi ketenteraan melibatkan Venezuela dan Iran sepanjang tahun lalu. Anthropic juga pernah dihalang oleh Pentagon baru-baru ini kerana perselisihan berkaitan keselamatan AI, namun sekatan itu kemudiannya ditarik balik.
Risiko Kewujudan AGI
Laporan itu menyimpulkan bahawa kesemua sembilan syarikat masih tidak bersedia secukupnya untuk menangani ancaman 'kewujudan' yang berkaitan dengan kecerdasan am buatan (AGI), iaitu sistem AI yang mampu menyamai kecerdasan manusia. Walaupun penyelidik mengakui bahawa 'usaha membina wujud', mereka menegaskan bahawa usaha di seluruh industri masih 'tidak mencukupi sama sekali'. Laporan itu juga menekankan kebimbangan bahawa AI canggih boleh disalahgunakan untuk melaksanakan serangan siber atau tugas yang memudaratkan manusia.
Kontroversi Model Mythos
Anthropic baru-baru ini menarik perhatian selepas melancarkan model AI paling berkuasa setakat ini, Mythos. Syarikat yang berpangkalan di San Francisco itu pada mulanya hanya menyediakan model tersebut kepada sekumpulan kecil organisasi yang dipercayai pada bulan April kerana kebimbangan keupayaan sibernya boleh dieksploitasi oleh pihak jahat. Pada 12 Jun, kerajaan AS menyekat Anthropic daripada mengeluarkan Mythos kepada pengguna asing atas alasan keselamatan negara. Pentadbiran Trump menarik balik sekatan itu pada 30 Jun.
