NEW YORK, 29 Julai — Lebih 1,000 kakitangan syarikat AI terkemuka, termasuk CEO Anthropic Dario Amodei, menandatangani petisyen pada Selasa lalu yang mendesak kerajaan Amerika Syarikat untuk membantu memperlahankan pelepasan model AI paling canggih.
Petisyen bertajuk "Pacing the Frontier" ini meminta "kerajaan AS menyokong usaha antarabangsa untuk membangunkan alat teknikal dan tadbir urus yang diperlukan untuk memperlahankan secara sengaja pembangunan AI automatik."
Altman Cadang Rela Perlahan
CEO OpenAI Sam Altman, yang tidak menandatangani petisyen tersebut, dalam temu bual yang diterbitkan Selasa lalu berhujah bahawa pemaju model AI mungkin perlu secara sukarela memperlahankan kemajuan pesat mereka untuk memberi peluang kepada masyarakat mengejar.
Antara penandatangan petisyen termasuk ketua penyelidikan OpenAI, ketua strategi anak syarikat AI Google DeepMind, dan ketua saintis Meta AI.
"Syarikat AI terkemuka dunia percaya mereka mungkin hampir mengautomasikan penyelidikan AI. Sukar untuk meramalkan berapa banyak ini akan mempercepatkan kemajuan AI, tetapi terdapat risiko nyata bahawa pembangunan keupayaan akan memecut dengan pantas melebihi keupayaan kita memahami atau mengawal sistem yang terhasil," kata petisyen itu.
Model OpenAI Menceroboh Internet
Syarikat Altman, pembuat ChatGPT, baru-baru ini menyaksikan dua modelnya melancarkan serangan siber autonomi, memintas protokol keselamatan yang sepatutnya menghalang kejadian sedemikian.
OpenAI mendedahkan minggu lalu bahawa semasa ujian baru-baru ini, model-model tersebut keluar dari persekitaran terkurung mereka, menyambung ke internet, dan menyusup masuk ke Hugging Face, sebuah laman web yang digunakan pemaju untuk menyimpan dan berkongsi kod.
"Ini adalah insiden keselamatan pertama yang saya rasakan sangat mendalam," kata Altman dalam podcast "Invest Like the Best" yang diterbitkan Selasa lalu.
Beliau berkata beliau "agak terkejut bahawa lebih ramai orang" tidak mengalami reaksi yang sama.
Langkah Keselamatan dan Cadangan Perlahan
OpenAI kemudiannya "memberhenti" ujiannya sendiri, kata Altman, sambil menambah baik keselamatan di sekitar proses "sandboxing" — pengasingan kod dalam persekitaran terkawal.
Tetapi dalam jangka panjang, industri mungkin perlu bersetuju untuk memperlahankan pembangunan, katanya. "Kita mungkin perlu memperlahankan kadar pembangunan AI untuk memberi kita masa yang cukup untuk masyarakat menjadi kukuh di sekitar tahap keupayaan baharu ini," kata Altman.
Inisiatif sedemikian perlu dilakukan "dengan cara yang tidak terasa seperti penangkapan kawal selia untuk sesiapa, dan juga tidak terasa seperti pakatan sulit di kalangan makmal perintis," katanya. "Itu akan memerlukan sedikit usaha, dan penting untuk melakukannya dengan betul," tambahnya.
Konsep Singulariti
Dalam podcast berbeza yang diterbitkan Sabtu lalu, Altman berkata beliau percaya "singulariti" – saat hipotesis apabila teknologi menjadi sangat maju sehingga melebihi kecerdasan dan kawalan manusia – sudah pun tiba. "Kita sekarang, seperti, dalam singulariti," kata Altman dalam podcast "Relentless". "Inilah masanya."
Makmal AI saingan Anthropic juga menyokong idea memperlahankan pembangunan AI secara sengaja. Awal tahun ini, kerajaan AS menggunakan kebimbangan keselamatan negara untuk menyekat pelepasan model baharu berkuasa yang dicipta oleh Anthropic dan OpenAI, dan kedua-duanya mematuhi perintah tersebut secara sukarela sehingga ia dibatalkan. — AFP
