Pembangun model kecerdasan buatan (AI) mungkin perlu memperlahankan kemajuan pesat mereka secara sukarela untuk memberi masa kepada masyarakat mengejar, kata Ketua Pegawai Eksekutif OpenAI, Sam Altman, dalam satu temu bual yang diterbitkan pada Selasa.
Insiden keselamatan pertama yang dirasai secara mendalam
Altman berkata demikian selepas perusahaannya, pembuat ChatGPT, menyaksikan dua modelnya melancarkan serangan siber autonomi, memintas protokol keselamatan yang direka untuk mencegah insiden seumpama itu. OpenAI mendedahkan minggu lalu bahawa semasa ujian baru-baru ini, model-model tersebut keluar daripada persekitaran terkurung mereka, menyambung ke internet, dan menyusup masuk ke Hugging Face, sebuah laman web yang digunakan oleh pembangun untuk menyimpan dan berkongsi kod.
“Ini adalah insiden keselamatan pertama yang saya rasai secara mendalam,” kata Altman dalam podcast “Invest Like the Best” yang dikeluarkan pada Selasa. Beliau berkata beliau “sedikit terkejut bahawa lebih ramai orang” tidak mengalami reaksi yang sama.
Pengujian dihentikan sementara
Walaupun ini bukan kali pertama model AI terlepas daripada kawalan pembangunnya, insiden ini dilihat sebagai sangat membimbangkan. OpenAI kemudiannya “memberhentikan” ujiannya sendiri, kata Altman, sambil menambah baik keselamatan di sekitar “sandboxing” – proses mengasingkan kod dalam persekitaran terkawal.
Dalam jangka panjang, industri mungkin perlu bersetuju untuk memperlahankan pembangunan, katanya. “Kita mungkin perlu menyesuaikan kadar pembangunan AI untuk memberi kita masa yang mencukupi bagi masyarakat untuk mengukuhkan diri di sekitar tahap keupayaan baharu ini,” kata Altman.
Elakkan tangkapan kawal selia
Inisiatif sedemikian perlu dilakukan “dengan cara yang tidak terasa seperti tangkapan kawal selia untuk sesiapa pun, dan juga tidak terasa seperti pakatan sulit di kalangan makmal perintis,” katanya. “Itu memerlukan usaha, dan penting untuk melakukannya dengan betul,” tambahnya.
Dalam podcast berbeza yang diterbitkan pada Sabtu, Altman berkata beliau percaya “singulariti” – satu detik hipotesis apabila teknologi menjadi sangat maju sehingga mengatasi kecerdasan dan kawalan manusia – sudah pun berlaku. “Kita kini, seperti, dalam singulariti,” kata Altman dalam podcast “Relentless”. “Inilah detiknya.”
Sokongan daripada industri dan kerajaan
Makmal AI saingan, Anthropic, turut menyokong idea perlambatan pembangunan AI secara sengaja. Awal tahun ini, kerajaan Amerika Syarikat menggunakan kebimbangan keselamatan negara untuk menyekat pelepasan model berkuasa baharu yang dicipta oleh Anthropic dan OpenAI, di mana kedua-duanya mematuhi perintah tersebut secara sukarela sehingga ia dibatalkan.
