Ketua makmal kecerdasan buatan (AI) Google, Demis Hassabis, pada hari Selasa menyeru Amerika Syarikat untuk menubuhkan sebuah organisasi yang akan menguji sistem AI paling berkuasa sebelum ia boleh dikeluarkan kepada umum.
Cadangan badan kawal selia baharu
Hassabis, yang mengetuai Google DeepMind dan memenangi Hadiah Nobel untuk kerjanya dalam sains protein, berkata dalam eseinya bahawa AI yang mampu menyamai pemikiran manusia sepenuhnya, dikenali sebagai kecerdasan am buatan (AGI), mungkin hanya beberapa tahun lagi.
Hassabis mengetuai bahagian di sebalik keluarga model AI Gemini Google, yang bersaing secara langsung dengan tawaran daripada OpenAI dan Anthropic dalam perlumbaan pantas untuk membina sistem yang lebih berkuasa.
Cadangan itu muncul di tengah-tengah desakan yang semakin meningkat daripada eksekutif AI pesaing untuk pengawasan kerajaan yang mengikat ke atas teknologi tersebut – dan minggu selepas pertikaian sengit antara pentadbiran Trump dan Anthropic yang mendedahkan ketiadaan peraturan yang jelas untuk sektor itu.
Insiden Mythos sebagai pengajaran
Pada bulan Jun, jabatan perdagangan mengarahkan Anthropic untuk menggantung semua akses asing ke model Claude Fable 5 dan Mythos 5, dengan memetik kebimbangan keselamatan negara yang dikaitkan dengan laporan jailbreak – pengguna berjaya menembusi pagar keselamatan yang direka untuk mengawalnya.
Syarikat itu terpaksa mengambil kedua-dua model itu luar talian sepenuhnya selama lebih daripada dua minggu sebelum akses dipulihkan secara beransur-ansur.
Model FINRA sebagai rujukan
Hassabis mencadangkan badan kawal selia baharu yang dimodelkan mengikut Pihak Berkuasa Kawal Selia Industri Kewangan (FINRA), badan pengawas swasta yang mengawal firma pembrokeran Wall Street di bawah pengawasan persekutuan.
Beliau berkata ia akan dikendalikan oleh pakar teknikal terkemuka, dibiayai terutamanya oleh industri AI, dan ditugaskan untuk membangunkan penanda aras keselamatan yang mesti dilalui oleh model sempadan sebelum memasuki pasaran.
Di bawah rancangannya, pembangun AI pada mulanya akan menyerahkan model paling berkuasa mereka untuk semakan secara sukarela sehingga 30 hari sebelum dikeluarkan. Setelah rejim ujian terbukti boleh dipercayai, pematuhan akan menjadi wajib.
Kenyataan Hassabis
“Tiada seorang pun di dunia yang tahu dengan pasti apa yang akan berlaku dari sini, malah pakar pun tidak bersetuju,” tulis Hassabis. “Apabila terdapat tahap ketidakpastian yang tinggi dan taruhannya setinggi ini, meneruskan dengan optimisme berhati-hati adalah strategi yang bijak dan betul.”
Peraturan yang dikuatkuasakan oleh agensi AS baharu itu akan terpakai kepada mana-mana model yang dianggap cukup berkuasa untuk layak sebagai “kelas sempadan” – sama ada dibina di AS atau di luar negara, dengan Hassabis berharap pemain antarabangsa akan menyertai sistem itu setelah ia beroperasi.
Reaksi terhadap insiden Mythos
Dalam temu bual dengan Axios yang diterbitkan bersamaan dengan manifesto beliau, Hassabis menggambarkan episod Mythos sebagai “sedikit panggilan kejut” yang menunjukkan Washington memerlukan pendekatan yang lebih berstruktur.
Ketua Pegawai Eksekutif Anthropic, Dario Amodei, telah mengeluarkan seruannya sendiri untuk peraturan beberapa hari sebelum tindakan keras kerajaan, menerbitkan esei pada awal Jun yang menyokong agensi persekutuan dengan kuasa untuk menyemak model AI yang berkuasa sebelum digunakan.
