China Perkenal Peraturan Ketat untuk Industri Avatar AI dalam Sokongan Dukacita
China sedang mengambil langkah untuk mengawal selia industri 'manusia digital' yang berkembang pesat, bernilai sekitar RM2.8 bilion, di mana avatar kecerdasan buatan (AI) digunakan untuk mencipta replika digital individu yang telah meninggal dunia bagi tujuan sokongan emosi. Langkah ini datang pada masa kebimbangan etika semakin meningkat mengenai penggunaan teknologi ini.
Kisah Zhang Xinyu dan Avatar Bapanya
Selepas bapanya meninggal dunia akibat kanser, Zhang Xinyu, 47 tahun, menghampiri syarikat Super Brain untuk mencipta avatar AI yang kelihatan dan berbunyi seperti bapanya. Avatar ini membolehkannya berkomunikasi dalam talian, memberikan rasa "penuh tenaga semula serta motivasi" dalam menghadapi kesedihan. Walau bagaimanapun, beberapa rakan risau ini boleh menyebabkan Zhang terlalu terbenam dalam dunia maya dan sukar untuk melupakan, menggambarkannya sebagai "penghiburan palsu". Zhang, yang berasal dari wilayah Liaoning, membalas dengan berkata, "Walaupun penghiburan itu sendiri disimulasikan, kasih sayang di sebaliknya adalah nyata."
Peraturan Baharu oleh Pentadbiran Siber China
Pentadbiran Siber China (CAC) telah mengeluarkan draf peraturan pada bulan ini untuk mengawal pembangunan dan penggunaan avatar digital manusia. Peraturan ini bertujuan untuk mencegah kemudaratan kepada kanak-kanak, ancaman kepada kestabilan sosial, dan penciptaan avatar tanpa kebenaran individu yang diserupai. CAC memerlukan pelabelan jelas pada kandungan manusia digital dan melarang penggunaan maklumat peribadi untuk mencipta klon deepfake tanpa persetujuan.
Pelanggaran boleh dikenakan denda antara 10,000 yuan (RM5,800) hingga 200,000 yuan (RM116,000). Peraturan ini terbuka untuk ulasan awam sehingga awal Mei, menandakan usaha terkini China untuk mengimbangi ambisi teknologi dengan pencegahan risiko.
Industri Manusia Digital Berkembang Pesat
Menurut agensi berita Xinhua, industri manusia digital China bernilai sekitar 4.1 bilion yuan (RM2.37 bilion) pada 2024, dengan pertumbuhan tahunan sebanyak 85 peratus. Industri ini digunakan secara meluas dalam media sosial untuk mempromosikan produk, tetapi juga semakin popular untuk sokongan dukacita.
Zhang Zewei, pengasas Super Brain, menyambut baik peraturan baharu ini, menyatakan ia "tidak dapat dielakkan" dan membantu mencapai keseimbangan antara kawal selia standard dan pertumbuhan industri. Syarikatnya pakar dalam mencipta avatar AI untuk keluarga yang berduka, dengan kebenaran daripada ahli keluarga yang masih hidup.
Kebimbangan Etika dan Kes Viral
Sebuah video yang tersebar luas di media sosial China bulan ini menunjukkan seorang wanita tua yang tidak sedar berkomunikasi dengan avatar realistik anak lelakinya yang telah meninggal dunia dalam kemalangan kereta. Hashtag berkaitan mendapat lebih 90 juta tontonan di Weibo, mencetuskan perbincangan hangat mengenai etika AI generatif. Ramai menyeru lebih banyak kawal selia untuk menghalang penyalahgunaan oleh penipu.
Zhang Zewei menggambarkan projek ini sebagai "pembohongan berniat baik", menekankan bahawa Super Brain sentiasa mendapatkan persetujuan keluarga. Peraturan CAC juga melarang perkhidmatan yang menawarkan hubungan intim maya kepada kanak-kanak atau menggalakkan emosi melampau.
Implikasi untuk Pembangunan Teknologi China
Pakar seperti Marina Zhang dari University of Technology Sydney menyatakan bahawa tadbir urus teknologi digital China sering mengikuti logik "membangun dahulu, kemudian mengawal selia, dan menyempurnakan dalam proses". Lizzi Lee dari Asia Society Policy Institute menambah bahawa Beijing ingin bergerak pantas dalam penggunaan AI tetapi dalam rangka kerja terkawal, dengan pengawal selia campur tangan segera apabila risiko menjadi ketara.
Manoj Harjani, rakan penyelidik di S. Rajaratnam School of International Studies di Singapura, menyatakan bahawa matlamat China termasuk mengekalkan "kedaulatan dan objektif politik". Peraturan draf melarang manusia digital daripada menghasilkan kandungan yang membahayakan keselamatan negara atau menghasut subversi kuasa negara.
Dengan langkah ini, China berusaha untuk memastikan industri manusia digital berkembang secara bertanggungjawab, sambil menangani isu etika dan sosial yang timbul daripada teknologi inovatif ini.
