Lebih daripada 50 negara kini telah menyokong "Deklarasi Politik mengenai Penggunaan Ketenteraan AI dan Autonomi Secara Bertanggungjawab" yang mula diperkenalkan pada tahun 2023 di The Hague. Deklarasi ini sinonim dengan undang-undang kemanusiaan antarabangsa dan jenayah terhadap kemanusiaan.
Mengapa Deklarasi Ini Penting?
Pada satu peringkat, ini mungkin kelihatan sebagai latihan diplomatik yang sederhana. Namun, pada peringkat lain, ia mewakili salah satu usaha terawal masyarakat antarabangsa untuk menghalang kecerdasan buatan daripada menjadi kuasa ketenteraan paling tidak stabil sejak penciptaan senjata nuklear. Deklarasi ini muncul daripada kesedaran yang semakin meningkat bahawa AI tidak lagi terhad kepada makmal, aplikasi awam, atau persaingan komersial. Sebaliknya, ia kini tertanam secara langsung dalam perancangan ketenteraan, pengumpulan risikan, logistik, peperangan siber, penyasaran peluru berpandu, kumpulan dron, dan pembuatan keputusan di medan perang.
Bahayanya bukan sekadar mesin menjadi lebih pintar. Kebimbangan yang lebih besar ialah manusia mungkin secara beransur-ansur menyerahkan pertimbangan moral kepada sistem yang dioptimumkan hanya untuk kelajuan, kecekapan, dan kebolehbunuhan. Inilah sebabnya deklarasi ini penting. Deklarasi Politik mengenai Penggunaan Ketenteraan AI dan Autonomi Secara Bertanggungjawab berusaha untuk mewujudkan norma sebelum preseden bencana menjadi sebati. Ia menyeru negara-negara untuk memastikan sistem AI ketenteraan kekal ditadbir oleh undang-undang antarabangsa, terutamanya undang-undang kemanusiaan antarabangsa. Ia menekankan akauntabiliti, pengawasan manusia, kebolehpercayaan, ujian, ketelusan, dan langkah-langkah perlindungan terhadap peningkatan yang tidak diingini. Pada dasarnya, ia adalah percubaan untuk memelihara peranan tanggungjawab manusia dalam peperangan sebelum autonomi mula mengatasi etika.
Keperluan Mendesak
Kecerdasan buatan berkembang jauh lebih cepat daripada institusi diplomatik yang sepatutnya mengawalnya. Ini adalah amaran yang diberikan beberapa dekad lalu oleh ahli sosiologi Amerika Robert K. Merton di Universiti Harvard, yang memberi amaran bahawa sains sering mendahului pertimbangan moral. Hari ini, amaran itu kelihatan bersifat nubuatan. Pertubuhan ketenteraan di seluruh dunia kini terlibat dalam perlumbaan yang semakin pantas untuk mengintegrasikan AI ke dalam sistem arahan dan kawalan. Amerika Syarikat, China, Rusia, Israel, Kesatuan Eropah, India, dan beberapa kuasa pertengahan semuanya melabur besar dalam keupayaan autonomi.
Ketakutan adalah mudah. Sebaik sahaja sistem AI disambungkan ke rangkaian pertahanan peluru berpandu, dron autonomi, sistem pembalasan siber, atau struktur perintah nuklear, masa yang tersedia untuk refleksi manusia mengecut secara drastik. Keputusan di medan perang yang dahulunya mengambil masa berjam-jam mungkin berlaku dalam beberapa saat sahaja. Pemampatan masa membuat keputusan ini boleh menjadikan peperangan masa depan lebih mungkin, bukan kurang. Dalam saat-saat krisis, sistem AI mungkin mentafsir isyarat secara salah, salah mengklasifikasikan niat, atau meningkatkan tindak balas melebihi apa yang dimaksudkan oleh pemimpin politik. Lebih teruk lagi, kuasa saingan mungkin lebih mempercayai algoritma daripada diplomasi itu sendiri. Dunia oleh itu memasuki era di mana peperangan boleh bermula bukan melalui pengiraan politik yang disengajakan, tetapi melalui salah tafsir pada kelajuan mesin.
Implikasi untuk ASEAN
Ini amat berbahaya di wilayah yang sudah dibebani oleh persaingan geopolitik yang tidak dapat diselesaikan. Indo-Pasifik adalah salah satu wilayah tersebut. Laut China Selatan, Selat Taiwan, Semenanjung Korea, Laut China Timur, dan koridor maritim yang lebih luas yang menghubungkan Lautan Pasifik dan Hindi sudah dipenuhi dengan aset ketenteraan, sistem pengawasan, operasi siber, dan teknologi autonomi yang semakin meningkat. Kesilapan yang melibatkan sistem ketenteraan berbantukan AI di kawasan ini boleh meningkat dengan cepat sebelum diplomat mempunyai peluang untuk campur tangan.
Bagi ASEAN, implikasinya mendalam. Asia Tenggara secara tradisinya bergantung pada kesabaran strategik, dialog, pembinaan konsensus, dan diplomasi pencegahan. Budaya diplomatik ASEAN dibina untuk memperlahankan ketegangan sebelum ia menjadi konfrontasi terbuka. Kecerdasan buatan mengancam untuk melemahkan budaya ini jika sistem ketenteraan direka terutamanya untuk tindak balas segera dan bukannya kekangan politik. Wilayah ini tidak boleh menganggap bahawa tadbir urus AI adalah tanggungjawab kuasa besar semata-mata. ASEAN mesti membangunkan prinsipnya sendiri mengenai penggunaan AI ketenteraan yang bertanggungjawab, terutamanya melalui Forum Serantau ASEAN, Sidang Kemuncak Asia Timur, Mesyuarat Menteri Pertahanan ASEAN Plus, dan dialog Trek 1.5 dan Trek 2 yang melibatkan ahli akademik, pegawai tentera, dan pakar teknologi.
Malaysia, sebagai bekas Pengerusi ASEAN pada tahun 2025 dan Penyelaras semasa Hubungan China-ASEAN antara 2025 dan 2028, berada dalam kedudukan yang sangat baik untuk menggalakkan perbincangan ini. Ini tidak bermakna ASEAN harus menentang kemajuan teknologi. Sebaliknya, AI mempunyai faedah awam yang besar. Ia boleh meningkatkan penjagaan kesihatan, pengurusan bencana, pendidikan, pemantauan maritim, keselamatan makanan, dan kecekapan tenaga. Malah aplikasi ketenteraan seperti logistik, bantuan kemanusiaan, misi mencari dan menyelamat, dan pemantauan pertahanan boleh menyumbang secara positif kepada kestabilan serantau.
Isunya Bukan AI Itu Sendiri
Isunya bukan AI itu sendiri. Isunya ialah sama ada manusia mengekalkan kawalan etika ke atas sistem yang diciptanya. Sejarah menawarkan pengajaran yang menyedihkan. Kejayaan teknologi sering kali pada mulanya diraikan untuk kelebihan strategiknya sebelum akibat destruktifnya difahami sepenuhnya. Senjata kimia, senjata nuklear, eksperimen biologi, dan peperangan siber semuanya mengikuti trajektori ini. Kecerdasan buatan kini mungkin menghampiri titik perubahan yang serupa.
Apa yang menjadikan AI unik berbahaya ialah ia beroperasi pada kelajuan luar biasa sambil juga memiliki kapasiti untuk belajar, menyesuaikan diri, dan berinteraksi merentas sistem yang saling berkaitan. Tidak seperti senjata sebelumnya, AI berpotensi mempengaruhi setiap domain secara serentak: darat, laut, udara, siber, angkasa lepas, kewangan, komunikasi, dan pendapat umum. Ketenteraan AI oleh itu boleh membentuk semula bukan sahaja peperangan, tetapi psikologi hubungan antarabangsa itu sendiri. Kepercayaan mungkin semakin terhakis antara negara. Kecurigaan mungkin mendalam. Doktrin pencegahan mungkin menjadi normal. Kerajaan mungkin berasa tertekan untuk mengautomasikan tindak balas semata-mata kerana saingan melakukan perkara yang sama. Ini mewujudkan dilema keselamatan klasik yang diperhebatkan oleh pembelajaran mesin. Pencarian keselamatan teknologi oleh satu negara menjadi persepsi kelemahan kewujudan oleh negara lain.
Kepentingan Norma
Deklarasi Politik mengenai Penggunaan Ketenteraan AI dan Autonomi Secara Bertanggungjawab oleh itu penting tepat kerana ia cuba memperlahankan momentum berbahaya ini sebelum ia menjadi tidak dapat dipulihkan. Pengkritik akan berhujah bahawa deklarasi sahaja tidak mencukupi. Mereka betul. Deklarasi ini tidak mengikat secara undang-undang. Kuasa besar masih berpecah. Mekanisme penguatkuasaan masih lemah. Pengesahan adalah sukar. Persaingan strategik terus meningkat. Namun norma penting. Politik antarabangsa sentiasa bergantung sebahagiannya pada pembinaan beransur-ansur jangkaan, piawaian, dan garis merah. Malah norma yang tidak sempurna boleh membentuk tingkah laku negara dari semasa ke semasa. Alternatifnya — membenarkan pembangunan AI ketenteraan diteruskan tanpa sebarang rangka kerja etika langsung — akan menjadi jauh lebih berbahaya.
Peradaban manusia kini menghadapi persoalan yang menentukan. Bolehkah kuasa teknologi kekal tunduk kepada kebijaksanaan manusia? Atau adakah manusia akan mencipta sistem yang kelajuan, autonomi, dan kebolehbunuhannya akhirnya melebihi kawalan politik itu sendiri? Jawapannya mungkin menentukan sama ada kecerdasan buatan menjadi pencapaian terbesar manusia — atau kesilapan strategik yang paling serius.
Phar Kim Beng adalah profesor Pengajian ASEAN dan pengarah Institut Pengantarabangsaan dan Pengajian ASEAN, Universiti Islam Antarabangsa Malaysia.
