Seorang pesakit tidak sedarkan diri di unit rawatan rapi. Hari berlalu tanpa sebarang perubahan. Sebuah sistem kecerdasan buatan (AI), setelah menganalisis ribuan kes serupa, menunjukkan bahawa kemungkinan untuk pulih adalah sangat rendah. Ia mencadangkan penamatan sokongan hayat.
Pasukan perubatan mengkaji analisis tersebut. Data adalah komprehensif. Hujahnya jelas. Kesimpulan nampaknya kukuh dari segi statistik. Namun, berdiri di sisi katil, keputusan itu tidak terasa lengkap. Yang tinggal bukanlah persoalan ketepatan, tetapi tanggungjawab.
Had AI dalam membuat keputusan
Pada saat seperti ini, batasan kecerdasan buatan menjadi lebih jelas. AI mampu memproses sejumlah besar maklumat dan mengenal pasti corak yang sukar dikesan oleh individu. Ia boleh mencadangkan tindakan yang kelihatan paling optimum berdasarkan data yang ada. Dalam banyak bidang, dari perubatan hingga kewangan dan dasar awam, keupayaan ini telah membawa manfaat yang besar.
Namun, keputusan tidak hanya ditentukan oleh ketepatan. Ia membawa akibat yang melangkaui hasil segera. Ia mempengaruhi kehidupan, hubungan, dan kadangkala integriti moral mereka yang bertindak. Dalam kes pesakit di unit rawatan rapi, persoalannya bukan hanya sama ada cadangan itu wajar dari segi statistik, tetapi siapa yang bersedia menerima apa yang menyusul daripada keputusan itu.
AI tidak menanggung beban keputusan
Perbezaan ini penting. AI boleh mencadangkan. Ia boleh menganalisis. Ia boleh meramal dengan ketepatan yang luar biasa. Tetapi ia tidak menanggung beban keputusan yang dimaklumkannya. Ia tidak berdiri di samping keluarga pesakit. Ia tidak mengalami keraguan, dan ia tidak hidup dengan akibat apa yang diputuskan. Tanggungjawab itu kekal pada manusia.
Menurut Profesor Emeritus Ng Kwan Hoong dari Fakulti Perubatan, Universiti Malaya, “AI boleh mencadangkan, menganalisis, dan meramal, tetapi ia tidak menanggung beban keputusan yang dimaklumkannya. Ia tidak berdiri di sisi pesakit atau mengalami akibatnya.”
Tidak lama dahulu, hubungan antara pertimbangan dan tanggungjawab adalah lebih jelas. Seorang doktor membuat diagnosis dan bertanggungjawab ke atasnya. Seorang hakim menjatuhkan hukuman dan menerima akauntabiliti. Seorang pengurus membuat keputusan pengambilan pekerja dan menanggung implikasinya. Keputusan mereka dibentuk oleh pengetahuan dan pengalaman, tetapi juga oleh kesedaran bahawa mereka akan bertanggungjawab ke atas hasilnya.
Pergeseran dalam pembuatan keputusan
Hari ini, keselarasan ini semakin kabur. Apabila algoritma menjadi lebih berpengaruh, terdapat kecenderungan untuk menganggap cadangan mereka sebagai objektif atau neutral. Oleh kerana ia berasal dari set data yang besar dan model yang kompleks, ia kelihatan autoritatif. Namun, setiap sistem mencerminkan pilihan manusia, dari data yang dilatih hingga objektif yang direka untuk dioptimumkan. Pilihan ini membentuk cadangan yang terhasil.
Lebih penting lagi, sistem itu sendiri kekal terpisah daripada apa yang menyusul. Ini menimbulkan kebimbangan yang halus. Apabila keputusan semakin dipandu oleh sistem yang tidak berkongsi akibatnya, ada risiko manusia mula menjauhkan diri daripada beban keputusan tersebut. Proses menjadi lebih cekap, tetapi rasa pemilikan mungkin menjadi kurang langsung.
Peranan pertimbangan manusia
Ini bukan perubahan drastik, tetapi perubahan beransur-ansur. Dalam kehidupan profesional, ini boleh menjadi halus. Cadangan diterima kerana ia disokong oleh data. Tindakan diambil kerana ia selaras dengan apa yang dicadangkan sistem. Lama kelamaan, tindakan membuat keputusan mungkin terasa kurang seperti tanggungjawab peribadi dan lebih seperti pelaksanaan cadangan.
Namun, beberapa keputusan tidak boleh dikurangkan dengan cara ini. Dalam perubatan, pesakit bukan sekadar set pemboleh ubah klinikal. Dalam undang-undang, kes bukan sekadar koleksi preseden. Dalam kehidupan seharian, pilihan mengenai hubungan, keluarga dan tanggungjawab jarang hadir sebagai pengoptimuman yang jelas. Ia melibatkan nilai yang bersaing, ketidakpastian, dan sering kali pengakuan bahawa tiada jawapan yang sempurna.
Apa yang diperlukan dalam situasi sedemikian bukan hanya kecerdasan, tetapi pertimbangan. Pertimbangan berkembang melalui pengalaman, refleksi, dan kesedaran tentang implikasi manusiawi sesuatu keputusan. Ia melibatkan bukan hanya bertanya apa yang boleh dilakukan, tetapi juga mempertimbangkan apa yang patut dilakukan dan siapa yang akan terjejas. Ia membawa kesediaan untuk menerima tanggungjawab, walaupun hasilnya tidak pasti.
AI sebagai alat, bukan pengganti
Kualiti ini tidak boleh diwakilkan. AI boleh menyokong pertimbangan manusia dengan memberikan pandangan yang mungkin terlepas pandang. Ia boleh meluaskan pemahaman kita dan mempertajam analisis kita. Tetapi ia tidak boleh menggantikan tanggungjawab yang mengiringi pembuatan keputusan, kerana ia tidak berkongsi akibatnya.
Seperti yang diperhatikan oleh ahli matematik Norbert Wiener bertahun-tahun lalu, kita mesti memastikan bahawa tujuan yang kita tanamkan dalam mesin kita benar-benar tujuan yang kita ingin capai. Amaran beliau tetap relevan bukan sahaja pada tahap reka bentuk sistem, tetapi juga dalam cara kita berhubung dengan sistem yang kita gunakan.
Persoalan di hadapan kita bukanlah sama ada kecerdasan buatan harus digunakan, tetapi bagaimana ia harus diletakkan dalam pembuatan keputusan manusia. Jika kita memperlakukan cadangannya sebagai pengganti pertimbangan, kita berisiko mengurangkan peranan kita sendiri dalam keputusan yang membentuk kehidupan. Jika, sebaliknya, kita menggunakannya sebagai alat untuk memaklumkan, bukan menggantikan, pemikiran kita, kita mengekalkan hubungan penting antara keputusan dan tanggungjawab.
Kembali kepada pesakit di unit rawatan rapi, kehadiran analisis lanjutan tidak menghilangkan keperluan untuk pertimbangan manusia. Ia mungkin memaklumkan perbincangan, tetapi ia tidak boleh menamatkannya. Keputusan akhir masih perlu dibuat oleh mereka yang bersedia untuk mempertahankannya, menjelaskannya, dan hidup dengan akibatnya.
Itulah beban, dan tanggungjawab, menjadi manusia. Semasa kecerdasan buatan terus berkembang, cabaran di hadapan kita bukan hanya untuk membina sistem yang lebih berkemampuan, tetapi untuk tetap peka terhadap apa yang sistem tersebut tidak boleh lakukan. Mereka boleh membimbing, menyokong dan mencadangkan. Tetapi mereka tidak boleh menanggung apa yang menyusul. Dan pada akhirnya, dalam kesediaan untuk menanggung beban keputusan kita, kita memahami apa yang sebenarnya dimaksudkan apabila AI boleh mencadangkan, dan manusia mesti memutuskan.
