Paus Leo XIV gesa 'perlucutan senjata' kecerdasan buatan dalam manifesto utama
VATICAN CITY, 25 Mei — Paus Leo XIV hari ini menyeru supaya kecerdasan buatan (AI) 'dilucutkan senjata' dalam manifesto yang dinanti-nantikan mengenai teknologi yang berkembang pesat ini, sambil memberi amaran tentang 'bentuk perhambaan baru' di sebalik kebangkitannya.
Teori 'perang adil' yang baru-baru ini dianjurkan oleh pentadbiran Trump adalah 'ketinggalan zaman', tulis Leo dalam ensiklik pertamanya, yang dibentangkannya secara peribadi di Vatikan, bersama-sama dengan pakar AI termasuk pengasas bersama gergasi Amerika, Anthropic.
Paus pertama dari Amerika Syarikat, yang pernah bertelagah dengan Rumah Putih mengenai perang Iran dan penggunaan agama untuk membenarkan konflik, membunyikan penggera mengenai senjata yang diarahkan oleh AI, dengan mengatakan adalah 'tidak dibenarkan untuk mempercayakan keputusan maut' kepada teknologi.
Gergasi Amerika Anthropic, yang telah meletakkan kedudukannya sebagai syarikat AI beretika, terlibat dalam pertempuran undang-undang dengan tentera AS selepas menentang penggunaan teknologinya untuk peperangan autonomi maut atau pengawasan besar-besaran.
Tanpa menyebut Presiden AS Donald Trump, Leo menegaskan adalah 'penting untuk menegaskan semula bahawa teori perang adil, yang terlalu sering digunakan untuk membenarkan sebarang peperangan, kini sudah ketinggalan zaman'. 'Tiada algoritma yang boleh menjadikan perang boleh diterima dari segi moral,' tambahnya.
Persaingan bersenjata
AI boleh bernilai sehingga AS$4.8 trilion (RM18.98 trilion) menjelang 2033, peningkatan 25 kali ganda dalam sedekad, sambil menumpukan keuntungannya di tangan segelintir yang terhad, menurut Pertubuhan Bangsa-Bangsa Bersatu.
'Melucutkan senjata AI bermaksud membebaskannya daripada mentaliti persaingan bersenjata,' tulis paus dalam Magnifica Humanitas (Kemanusiaan yang Agung), satu usaha untuk menangani cabaran etika dan sosial di sebalik AI.
Beliau mengecam 'perlumbaan untuk algoritma yang semakin berkuasa dan set data yang lebih besar, didorong oleh keinginan untuk memastikan penguasaan geopolitik atau komersial'. 'Melucutkan senjata tidak bermaksud menolak teknologi, tetapi menghalangnya daripada mendominasi kemanusiaan,' tulis Leo.
AI harus 'mesra manusia', boleh diakses oleh semua dan dibuka untuk perbincangan dan perdebatan, tambahnya.
Ketua 1.4 bilion penganut Katolik di dunia telah menjadikan isu hangat ini sebagai asas kepausannya dengan mendedikasikan ensiklik pertamanya kepadanya — dokumen yang meletakkan asas untuk pengajaran Gereja dan perdebatan jangka panjang.
Manifesto itu merujuk kepada pelbagai tokoh budaya, daripada ahli falsafah Yunani Plato kepada Beethoven dan Simfoni Kesembilannya, malah memetik watak dari The Lord of the Rings karya JRR Tolkien.
Tidak ajaib
'Magnifica Humanitas' ditandatangani pada 15 Mei, ulang tahun ke-135 ensiklik 1891 oleh Leo XIII yang meletakkan asas doktrin sosial Gereja semasa Revolusi Perindustrian.
Leo memberi amaran tentang bentuk perhambaan baru yang mendorong revolusi teknologi, dengan menyatakan 'tiada apa-apa dalam dunia AI yang tidak material atau ajaib'. 'Setiap respons yang kelihatan serta-merta dan sempurna... bergantung pada kerja senyap berjuta-juta orang', daripada moderator kandungan yang terpaksa menonton bahan yang mengganggu, kepada kanak-kanak yang mengekstrak unsur nadir bumi yang menjadi asas AI.
Mereka 'terluka, cedera dan letih supaya aliran pengiraan dapat diteruskan tanpa gangguan', tulisnya.
Kecekapan atau inovasi yang lebih besar tidak memaafkan 'rantaian eksploitasi yang sengaja disembunyikan', tulisnya, sementara lebih banyak harus dilakukan untuk mengurangkan kesan alam sekitar AI dan 'melindungi rumah kita bersama'.
Keluaran teks itu berikutan beberapa tahun kajian oleh Gereja mengenai teknologi berkaitan AI. Pada awal 2020, Takhta Suci melancarkan 'Rayuan Rom untuk Etika AI', yang menyeru teknologi baru untuk menghormati martabat manusia.
Pakar mengatakan 'Magnifica Humanitas' boleh menjadi sama berpengaruh seperti 'Laudato Si' Paus Francis, manifesto iklim 2015 yang mencetuskan reaksi politik dan sivik di seluruh dunia. — AFP
