Sebuah laporan baharu daripada badan pemikir keselamatan AI yang berpangkalan di AS, Future of Life Institute, mendedahkan bahawa industri AI global gagal menangani ancaman "kewujudan" walaupun terdapat beberapa usaha positif. Dalam penarafan separuh tahun yang dikeluarkan pada Selasa, Anthropic, sebuah makmal AI dari AS, memperoleh skor keseluruhan tertinggi iaitu 'C+', namun tiada satu pun daripada sembilan syarikat utama yang dinilai menerima gred 'A' dalam mana-mana kategori.
Penarafan dan Metodologi
Future of Life Institute menilai sembilan syarikat AI terkemuka dunia merentasi enam kategori: penilaian risiko, bahaya semasa, rangka kerja keselamatan, keselamatan kewujudan, tadbir urus dan akauntabiliti, serta perkongsian maklumat. Penarafan ini ditentukan oleh tujuh penyelidik dan pakar tadbir urus berdasarkan data awam dan maklumat yang disediakan oleh syarikat-syarikat tersebut.
Antara syarikat yang dinilai termasuk Anthropic, OpenAI, Google DeepMind, Meta, xAI, DeepSeek, Alibaba Cloud, Z.ai, dan Mistral. Meta meningkat dua tempat ke kedudukan keempat, manakala xAI jatuh tiga tempat ke tangga ketujuh, hanya di hadapan DeepSeek dari China dan Mistral dari Perancis yang menduduki tempat terakhir.
Kekurangan Tindak Balas dan Model Terbuka
Mistral, yang disenaraikan buat pertama kali, mempertikaikan rangka kerja laporan tersebut. Syarikat Perancis itu membangunkan model terbuka yang membolehkan pengguna memuat turun dan mengubah suainya, berbanding model tertutup yang digunakan oleh Anthropic, OpenAI, dan Google DeepMind. "Saya sangat kecewa mereka berada di tempat terakhir, terutamanya kerana Eropah sebenarnya...menjadi peneraju dalam keselamatan AI," kata Max Tegmark, profesor MIT dan presiden Future of Life Institute, kepada AFP. Beliau menambah bahawa Mistral tidak menjawab soal selidik organisasi itu, begitu juga dengan Alibaba, xAI, dan DeepSeek.
Tiga pemaju dari China yang menghasilkan model terbuka juga berada di separuh bawah kedudukan: DeepSeek (kelima), Alibaba Cloud (keenam), dan Z.ai (kelapan).
Amalan Dipertikaikan dan Risiko Kewujudan
Laporan itu mencatatkan bahawa beberapa syarikat yang sebelum ini melarang teknologi mereka daripada kegunaan ketenteraan telah "berubah haluan secara beransur-ansur," termasuk Anthropic, yang dikritik kerana "penglibatan ketenteraan yang dipertikaikan." Menurut pelbagai laporan media, kerajaan AS menggunakan teknologi Anthropic dalam operasi ketenteraan di Venezuela dan Iran sepanjang tahun lalu, walaupun syarikat itu baru-baru ini diharamkan oleh Pentagon kerana perbezaan pendapat mengenai keselamatan AI.
Semua sembilan syarikat gagal dalam menangani ancaman "kewujudan" seperti mengejar model yang mencapai kecerdasan setaraf manusia, yang dikenali sebagai "kecerdasan am buatan" (AGI). Walaupun "usaha membina wujud," laporan itu menyatakan bahawa usaha merentas industri adalah "sama sekali tidak mencukupi." Risiko lain termasuk penyalahgunaan model untuk melaksanakan serangan siber atau melakukan tugas yang berpotensi membahayakan manusia.
Kes Anthropic dan Model Mythos
Anthropic menjadi tumpuan baru-baru ini selepas melancarkan model paling berkuasanya, Mythos, pada awal April. Syarikat yang berpangkalan di San Francisco itu hanya mengeluarkan Mythos kepada segelintir organisasi yang dipercayai kerana keupayaannya mendedahkan kelemahan keselamatan siber kepada pihak jahat. Bagaimanapun, pada 12 Jun, kerajaan AS menghalang Anthropic daripada mengeluarkan Mythos kepada warga asing atas alasan keselamatan negara. Pentadbiran Trump akhirnya menarik balik larangan itu beberapa minggu kemudian pada 30 Jun.
