Dalam era kecerdasan buatan (AI), kepercayaan digital perlu dibina semula berdasarkan tiga tonggak utama: identiti, keselamatan data, dan tadbir urus. Ini adalah penting apabila organisasi di Malaysia mempercepat transformasi digital mereka.
Identiti: Kepercayaan Melangkaui Pengguna Manusia
Pengurusan identiti dan akses tidak lagi hanya tertumpu kepada pekerja, vendor, kontraktor, dan rakan perniagaan. Ejen AI, pembantu digital, sistem pembelajaran mesin, dan aplikasi automatik kini menjadi peserta aktif dalam ekosistem perusahaan dan mesti dianggap sedemikian. Setiap sistem AI mesti mempunyai identiti yang jelas dan boleh disahkan yang menentukan entiti yang diwakilinya, fungsi yang boleh dilakukannya, sistem dan data yang boleh diaksesnya, serta asal usul kebenaran tersebut. Tanpa kejelasan ini, akauntabiliti menjadi kabur, menyukarkan pengesanan keputusan, mengenal pasti model yang mencetuskan tindakan, atau mengesahkan pematuhan dengan dasar dan peraturan. Di Malaysia, ini amat kritikal apabila sektor awam dan swasta mempercepat transformasi digital di bawah agenda digital nasional. Dengan peningkatan penggunaan AI dalam perbankan, penjagaan kesihatan, perkhidmatan kerajaan, dan infrastruktur kritikal, rangka kerja identiti digital yang kukuh adalah penting. Inisiatif seperti MyDigital ID dan usaha yang lebih luas untuk membina ekosistem digital yang dipercayai menunjukkan bahawa identiti telah berkembang daripada kebimbangan IT kepada isu kepercayaan nasional.
Keselamatan Data: Menentukan Sempadan
Keberkesanan dan kebolehpercayaan sistem AI bergantung pada akses data yang berkualiti tinggi dan berskop yang sesuai. Kebenaran berlebihan atau pendedahan kepada data korporat, kewangan, atau peribadi yang sensitif boleh menghakis kepercayaan dengan cepat, walaupun tanpa pelanggaran — persepsi keterlihatan semata-mata menimbulkan rasa tidak selesa di kalangan pekerja, pengawal selia, dan pengguna. Di Malaysia, ini diperkuat oleh ketidakpercayaan awam akibat kebocoran data profil tinggi, insiden keselamatan siber, dan isu tadbir urus dengan platform digital dan pangkalan data utama. Apabila organisasi semakin menggunakan alat AI generatif dan automasi pintar, keselamatan data tidak lagi boleh dilihat semata-mata sebagai melindungi fail atau rangkaian. Sebaliknya, ia mesti memberi tumpuan kepada mewujudkan sempadan yang jelas dan boleh dikuatkuasakan di sekitar: data apa yang boleh diakses oleh sistem AI, bagaimana data itu boleh digunakan, konteks di mana ia boleh diproses, dan jabatan, pengguna, atau fungsi mana yang disokongnya. Untuk mewujudkan kepercayaan yang mampan, organisasi mesti menggunakan pendekatan yang lebih berdisiplin terhadap tadbir urus data AI dengan mengenal pasti data sensitif, terkawal, dan berisiko tinggi, menyelaraskan hak akses dengan peranan, tujuan, dan konteks operasi, menghalang sistem AI daripada melintasi sempadan fungsi atau sensitiviti, menggunakan prinsip akses keistimewaan paling rendah secara konsisten, dan memantau anomali, penyalahgunaan, atau tingkah laku yang tidak dijangka. Apabila langkah keselamatan ini dilaksanakan dengan betul, penggunaan AI menjadi lebih mudah kerana pengguna mendapat keyakinan bahawa sistem akan beroperasi dalam had yang ditakrifkan dan dikawal dengan jelas.
Tadbir Urus: Menjadikan Akauntabiliti Eksplisit
Jika identiti menentukan siapa atau apa yang boleh bertindak, dan keselamatan data menentukan data apa yang boleh diakses, tadbir urus akhirnya menentukan bagaimana AI berkelakuan. Dalam organisasi yang dipacu AI, tadbir urus mesti disengajakan, telus, dan dikuatkuasakan, bukan diandaikan. Ia memerlukan kebenaran yang jelas untuk tugas AI, pengawasan manusia yang diwajibkan, keputusan yang boleh dijelaskan dan diaudit, dan penjajaran berterusan dengan dasar, peraturan, dan risiko. Tanpanya, walaupun keselamatan yang kukuh boleh terhakis; dengannya, organisasi mendapat ketelusan, akauntabiliti, dan keyakinan. Semasa Malaysia mempercepat transformasinya menjadi negara yang dipacu digital, Kementerian Digital mengambil langkah tegas untuk meletakkan negara sebagai hab AI yang dipercayai, selamat, dan berdaya saing global menjelang 2030. Melalui Pejabat AI Nasional (NAIO), Malaysia sedang membangunkan rangka kerja tadbir urus AI yang komprehensif dan Rang Undang-Undang Tadbir Urus Kecerdasan Buatan yang bersejarah yang disasarkan untuk dibentangkan di Parlimen pada tahun 2026. Dibina berdasarkan pendekatan berasaskan risiko yang progresif, inisiatif ini mencerminkan komitmen kerajaan untuk memupuk inovasi sambil menjaga akauntabiliti, etika, dan kepercayaan awam. Rangka kerja yang dicadangkan bertujuan untuk mewujudkan standard tadbir urus yang kukuh, mekanisme pelaporan insiden, dan perlindungan terhadap ancaman baru seperti deepfake, penipuan yang didayakan AI, dan penyalahgunaan sistem autonomi, mengukuhkan kepimpinan Malaysia dalam mewujudkan ekosistem AI yang selamat, beretika, dan berdaya tahan untuk masa depan digital.
Dalam era AI, kelajuan tidak akan memahkotai pemenang. Kemenangan akan pergi kepada organisasi yang menggunakan AI secara bertanggungjawab, telus, dan selamat. Pengiraan sebenar AI bukanlah mesin meniru minda. Ia adalah manusia yang berani mempercayai raksasa yang kita bina — atau menyaksikan empayar digital kita runtuh dalam pengkhianatan. Adakah jurutera anda akan mempercayai, atau mencetuskan pemberontakan?
