Setiausaha Agung Pertubuhan Bangsa-Bangsa Bersatu (PBB), Antonio Guterres, menyeru agar sistem tadbir urus global diwujudkan untuk membentuk kecerdasan buatan (AI) demi kebaikan manusia, sambil memberi amaran supaya tidak membiarkan teknologi itu sendiri 'vibe-code' masa depan kita.
Dalam ucapan pada majlis perasmian Dialog Global mengenai Tadbir Urus AI di Geneva, Isnin, Guterres berkata AI sedang berkembang pada 'kelajuan yang tidak terkawal' dan memberi amaran bahawa 'satu eksperimen sedang dijalankan ke atas masyarakat kita sendiri, tanpa rancangan dan tanpa persetujuan'.
'Itu tidak mampan,' katanya di hadapan dialog yang menghimpunkan kerajaan, syarikat teknologi, akademik dan masyarakat sivil.
AI Mengubah Dunia Tanpa Rancangan
Guterres menegaskan bahawa AI sudah mengubah dunia, dan persoalannya ialah sama ada kita akan membentuk transformasi ini bersama-sama atau membiarkannya membentuk kita.
Beliau memberi amaran bahawa sistem AI 'bukan lagi alat yang menunggu arahan'. 'Mereka menulis kod, bertindak dalam talian dan membuat pilihan dengan kurang dan kurang pengawasan manusia,' katanya. 'Institusi kita dibina untuk mentadbir mesin yang mengikut arahan. Mereka tidak bersedia untuk mesin yang membuat keputusan.'
Guterres menyuarakan kebimbangan tentang bagaimana AI semakin mengaburi apa yang benar dan palsu, serta menonjolkan kecenderungan yang semakin meningkat untuk menyerahkan tugas penting kepada teknologi dan mempercayai hasilnya secara membuta tuli.
Apa yang dipanggil 'vibe-coding', atau menggunakan AI untuk memberitahu mesin apa yang anda mahu dan bukannya mengekodnya sendiri, 'boleh melakukan keajaiban,' akuinya. 'Tetapi kita tidak boleh vibe-code kebenaran. Kita tidak boleh vibe-code masa depan manusia.'
Risiko Besar dan Tumpuan Kuasa
Satu lagi risiko yang ditimbulkan oleh Guterres ialah tumpuan kuasa dalam segelintir syarikat AI dan di segelintir negara. Kebanyakan negara 'tidak mempunyai sebarang suara dalam keputusan yang akan membentuk masa depan mereka,' amarnya.
Dalam menghadapi cabaran sebegini, katanya negara-negara berdepan pilihan yang jelas, 'antara mentadbir dengan reka bentuk dan hanyut secara lalai'.
Ketua PBB itu menonjolkan potensi teknologi AI untuk segala-galanya daripada mempercepatkan pembangunan hingga menambah baik penjagaan kesihatan dan menyediakan akses yang lebih luas kepada pendidikan. Tetapi beliau menegaskan perkembangan perlu dipandu oleh beberapa keutamaan utama, termasuk keselamatan dan penghormatan terhadap hak asasi manusia, untuk memastikan semua orang di mana-mana mendapat manfaat.
Beliau menyeru 'kaedah bersama untuk menilai dan mengesahkan risiko' dan piawaian yang dipersetujui bersama, terutamanya untuk memastikan keselamatan kanak-kanak yang mengakses sistem AI.
'Kami tidak membiarkan ubat sampai ke kanak-kanak sehingga ia terbukti selamat. Kami menguji setiap mainan,' kata Guterres. 'Namun AI telah sampai kepada anak-anak kita – pembelajaran mereka, persahabatan mereka, soalan peribadi mereka – sebelum sesiapa bertanya apa yang akan dilakukan kepada mereka.'
Ikrar Keselamatan Kanak-Kanak AI
Guterres menyeru Ikrar Keselamatan Kanak-Kanak AI, yang memerlukan syarikat membuktikan bahawa mana-mana sistem yang boleh diakses oleh kanak-kanak adalah selamat dan mempunyai toleransi sifar terhadap penderaan seksual. Sistem tersebut juga mesti menghubungkan mana-mana kanak-kanak yang menunjukkan tanda-tanda kesusahan kepada sokongan manusia sebenar, katanya.
'Tiada kanak-kanak patut menjadi babi guinea untuk AI yang tidak dikawal,' tegasnya.
Robot Pembunuh
Meningkatkan kapasiti dan akses AI di negara membangun juga penting, katanya, untuk memastikan jurang digital yang sedia ada tidak 'mengeras menjadi jurang AI'. Guterres berkata beliau akan mendesak Perhimpunan Agung PBB untuk mewujudkan Dana Global untuk AI, 'untuk membina kemahiran, data dan kuasa pengkomputeran yang mampu milik di mana-mana'.
Keutamaan lain ialah mengurangkan kesan iklim AI, katanya, sambil mengulangi seruannya kepada syarikat untuk mendedahkan jejak alam sekitar mereka yang semakin meningkat dan komited untuk membekalkan setiap pusat data dengan tenaga boleh diperbaharui menjelang 2030.
Sementara itu, Ketua PBB berkata kebimbangan terbesarnya berkisar tentang AI dalam persekitaran ketenteraan dan, khususnya, apa yang dipanggil sistem senjata autonomi yang mematikan. 'Mari kita panggil mereka apa adanya: Robot pembunuh,' katanya. 'Mesin memilih dan menyasarkan sasaran serta mengambil nyawa – tanpa kawalan dan pertimbangan manusia.'
'Itu menjijikkan dari segi moral... Dan ia mesti diharamkan oleh undang-undang antarabangsa.'
Guterres menekankan segera mewujudkan pengadang yang mencukupi untuk mengarahkan AI ke arah yang positif. 'Kita mungkin generasi terakhir yang dapat menetapkan syarat bagaimana manusia dan mesin wujud bersama,' katanya. 'Pintu masih terbuka. Ia tidak akan terbuka lama.'
