Perdana Menteri Anwar Ibrahim memberi amaran bahawa masa depan teknologi kecerdasan buatan (AI) semakin dikuasai oleh sekumpulan kecil negara dan syarikat korporat. Dalam syarahan khas bertajuk 'Humanity in a Human-Machine Civilisation' di Universiti Tokyo, beliau menegaskan bahawa kumpulan tersebut mengawal infrastruktur, model, platform dan piawaian AI yang menjadi tunjang dunia moden.
Ketidakseimbangan sumber AI
Anwar menjelaskan bahawa sistem yang memacu era baharu AI memerlukan jumlah data, cip, tenaga, infrastruktur awan dan modal yang sangat besar. Malangnya, sumber-sumber ini tidak diagihkan secara seimbang atau adil. Menurut beliau, ketidakseimbangan itu bukan sekadar isu teknikal, malah boleh menjejaskan kedaulatan, demokrasi dan kebertanggungjawaban awam.
“Golongan kapitalis, pemilik syarikat dan konglomerat mahu menentukan maksud tamadun, bagaimana peperangan, nasib sesebuah negara dan nilai strategik dirasionalisasikan, malah masa depan demokrasi,” kata Anwar. “Namun demokrasi adalah mengenai penyertaan. Ia mengenai keadilan.”
Tanggungjawab institusi awam
Perdana Menteri menekankan bahawa institusi awam mesti terus bertanggungjawab ketika AI semakin diterapkan dalam pentadbiran kerajaan, dunia pekerjaan dan kehidupan harian. “Tugas yang ada di hadapan kita adalah jelas: kita mesti membina sistem yang berkhidmat kepada manusia dan memperkayakan nilai kemanusiaan kita, bukannya merendahkannya,” tegas beliau.
Walaupun Anwar tidak menyebut mana-mana pihak secara khusus, kenyataannya hadir ketika pembangunan AI di peringkat global semakin tertumpu kepada beberapa gergasi teknologi Amerika Syarikat. Sistem AI banyak bergantung kepada cip berteknologi tinggi yang sebahagian besarnya direka dan dihasilkan oleh syarikat seperti Nvidia dan TSMC. Kebanyakan sistem AI juga beroperasi menggunakan platform awan yang dikawal oleh beberapa syarikat utama, termasuk Amazon Web Services, Microsoft Azure dan Google Cloud.
Kebimbangan penggunaan AI dalam ketenteraan
Terdapat juga kebimbangan mengenai penggunaan sistem AI komersial dalam operasi ketenteraan dan perisikan. Syarikat AI Anthropic dilaporkan enggan memenuhi permintaan Jabatan Pertahanan AS untuk menghapuskan beberapa ciri keselamatan pada model Claude bagi kegunaan pertahanan, termasuk untuk pengawasan besar-besaran dan senjata autonomi. Pertikaian itu menimbulkan persoalan yang lebih luas mengenai sama ada syarikat teknologi swasta, kerajaan atau masyarakat awam yang sepatutnya menentukan cara sistem AI berkuasa tinggi digunakan dalam hal ehwal peperangan, keselamatan dan kuasa negara.
