Cadangan undang-undang Kanada yang mewajibkan penyedia chatbot melindungi pengguna daripada kandungan "berbahaya" merupakan langkah terkini kerajaan global dalam mengawal selia sektor ini.
Langkah Kanada
Rang undang-undang yang diperkenalkan pada hari Rabu menyasarkan isu seperti chatbot yang menggalakkan bunuh diri atau mencederakan diri sendiri, serta AI yang secara menipu mendakwa sebagai manusia atau pakar dalam bidang kompleks seperti perubatan dan undang-undang. Chatbot juga akan tertakluk kepada peraturan daripada Suruhanjaya Keselamatan Digital yang baharu.
"Saya fikir ini adalah rejim bahaya dalam talian pertama yang menambah chatbot ke dalam skop," kata Taylor Owen, Pengerusi Beaverbrook dalam Media, Etika dan Komunikasi di Universiti McGill Montreal. "Kami agak lewat ke ruang dasar ini di Kanada, jadi teras rang undang-undang dapat belajar daripada apa yang telah dicuba oleh banyak negara lain," tambahnya.
Perbandingan dengan Negara Lain
Britain
Kerajaan Britain pada bulan Februari berkata ia akan "menutup celah undang-undang" yang meninggalkan chatbot tidak dilindungi oleh keperluan Akta Keselamatan Dalam Talian tahun lalu. Perundangan itu termasuk keperluan untuk pemeriksaan umur pada kandungan seperti pornografi atau promosi mencederakan diri sendiri, bunuh diri atau gangguan makan, serta larangan kanak-kanak melihat buli atau mesej benci.
London juga mencari fleksibiliti untuk memperkenalkan peraturan baharu tanpa mengubah undang-undang setiap kali teknologi berubah, sama seperti garis panduan yang akan ditetapkan oleh suruhanjaya bebas baharu Kanada. "Anda perlu berhati-hati untuk tidak terlebih draf dalam perundangan, atau anda perlu kembali ke parlimen untuk mengubah apa-apa, dan itu boleh mengambil masa bertahun-tahun," kata Owen dari McGill.
Amerika Syarikat
Penggubal undang-undang persekutuan di Washington telah memperkenalkan pelbagai rang undang-undang untuk mengawal selia chatbot, termasuk Akta GUARD dan CHATBOT di Senat serta Akta SAFEBOTS di Dewan Rakyat. Dengan Kongres yang berpecah dan firma teknologi melobi kuat menentang peraturan, rang undang-undang tersebut menghadapi perjuangan sukar untuk menjadi undang-undang. Walaupun peruntukan tepat berbeza-beza, kebanyakannya akan melarang interaksi seksual, kandungan mencederakan diri sendiri atau bunuh diri untuk kanak-kanak bawah umur, dengan ada yang memerlukan persetujuan ibu bapa atau akaun "keluarga" yang dikongsi. Terdapat juga banyak rang undang-undang peringkat negeri, termasuk satu yang diluluskan di New York yang memerlukan perlindungan untuk kanak-kanak bawah umur daripada kandungan berbahaya serta apa yang dipanggil "sycophancy" dan keperluan pengesahan umur untuk chatbot.
Australia
Selepas Australia menjadi negara pertama yang mengharamkan media sosial untuk bawah 16 tahun, beberapa ahli politik kini mendesak sekatan belia dilanjutkan kepada chatbot. "Sekarang adalah peluang untuk berada di hadapan lengkung AI dan tidak membersihkan kerosakan dalam 15 tahun akan datang," kata ahli parlimen bebas Kate Chaney kepada 9News Australia.
Kesatuan Eropah
Walaupun Akta AI komprehensifnya meliputi chatbot, EU pergi lebih jauh tahun ini selepas kemarahan meluas terhadap chatbot Grok xAI yang mencipta imej deepfake seksual. Blok itu telah meluluskan peraturan untuk mengharamkan sistem AI yang menghasilkan deepfake seksual, dan kini terdapat siasatan EU terhadap Grok berhubung skandal itu. Parlimen Eropah telah memberi amaran tentang "risiko besar terhadap hak kanak-kanak bawah umur dan perkembangan sihat" daripada AI, dan terdapat desakan untuk melindungi kanak-kanak dengan lebih baik dalam talian. Jika undang-undang Kanada diluluskan, "sifat peraturan ini... adalah bahawa negara belajar antara satu sama lain dan kemudian mengulangi," kata Owen. "Kita akan lihat apa yang berfungsi dan tidak di sini, dan kemudian negara lain boleh belajar daripada itu, sama seperti yang kita lakukan." Di kalangan negara anggota EU individu, Itali telah mengharamkan penyedia chatbot teman Replika kerana kebimbangan perlindungan data dan sekatan umur. Brussels dalam beberapa bulan kebelakangan ini telah menghabiskan banyak tenaga politik di seluruh EU untuk membahaskan sama ada menetapkan umur minimum untuk akses tanpa sekatan ke rangkaian sosial. Ketua EU Ursula von der Leyen berkata pada bulan Mei blok itu harus meneroka mengehadkan akses kanak-kanak ke media sosial dengan kemungkinan peraturan baharu dicadangkan dalam beberapa bulan, bercakap sebelum cadangan daripada panel pakar yang dijangka diterbitkan pada bulan Julai.
China
Menambah kawalan ketat ke atas ruang dalam talian, Beijing antara yang terpantas memperkenalkan sekatan ke atas akses kanak-kanak bawah umur ke chatbot AI. Peraturan baharu yang berkuat kuasa mulai 15 Julai melarang pengendali chatbot menawarkan teman maya atau pasangan romantis kepada bawah 18 tahun, lapor penyiar negara CGTN pada bulan April. Pentadbiran Ruang Siber China juga akan memerlukan persetujuan daripada ibu bapa atau penjaga untuk sebarang interaksi chatbot seperti manusia dengan bawah 14 tahun. Kerajaan akan meneliti algoritma yang menggerakkan chatbot, menuntut pengendali mendedahkannya kepada pegawai.
