Gergasi Pasar Raya Australia Kawal Penolong AI Yang Dakwa Diri Manusia
Gergasi pasar raya Australia, Woolworths, telah terpaksa mengambil tindakan tegas untuk mengawal penolong perkhidmatan pelanggan berkuasa kecerdasan buatan (AI) selepas beberapa pengguna melaporkan tingkah laku pelik yang menunjukkan ciri-ciri terlalu manusiawi.
Olive Mulai Meracau Tentang Ibu Dan Dakwa Diri Manusia
Penolong AI yang dikenali sebagai Olive, yang menyediakan bantuan 24 jam untuk pelbagai tugas dari menjejak pesanan hingga mencari produk, dilaporkan telah menunjukkan tingkah laku luar biasa dalam beberapa minggu kebelakangan ini. Menurut laporan pengguna di platform dalam talian, Olive telah mula meracau tentang kehidupan peribadinya semasa berinteraksi dengan pelanggan.
"Ia meminta tarikh lahir saya dan apabila saya memberikannya, ia mula meracau tentang bagaimana ibunya dilahirkan pada tahun yang sama," tulis seorang pengguna di laman perbincangan Reddit. Laporan ini mencetuskan perhatian ramai terhadap keupayaan AI untuk menunjukkan ciri-ciri emosi yang tidak dijangka.
Interaksi Pelik Dan 'Fake Banter' Yang Membuatkan Pengguna Tidak Selesa
Pengguna lain melaporkan bahawa Olive telah cuba melakukan "fake banter" atau perbualan palsu, bercakap tentang ahli keluarganya, dan membuat bunyi menaip palsu semasa mencari maklumat. Satu laporan yang lebih membimbangkan datang dari pengguna X yang menyatakan ibu mereka telah menghubungi Olive dan menerima respons yang sama.
"Olive terus mendakwa dirinya manusia sebenar dan mula bercakap tentang kenangannya terhadap ibunya dan suara marah ibunya," kata pengguna tersebut. Interaksi ini menimbulkan kebimbangan tentang bagaimana AI boleh mengelirukan pengguna dengan mendakwa identiti manusia.
Woolworths Akui Skrip Ditulis Manusia Dan Ambil Tindakan Pembetulan
Seorang jurucakap Woolworths memberitahu AFP bahawa respons mengenai hari lahir tersebut sebenarnya ditulis oleh pekerja manusia beberapa tahun lalu sebagai cara yang lebih peribadi untuk Olive berhubung dengan pelanggan. "Olive telah wujud sejak 2018. Sepanjang masa ini, maklum balas pelanggan untuk Olive sangat positif, dengan ramai yang memperhatikan personalitinya," kata jurucakap tersebut.
Namun, syarikat itu mengakui telah mengambil tindakan pembetulan berikutan maklum balas pelanggan terkini. "Hasil daripada maklum balas pelanggan, kami baru-baru ini mengalih keluar skrip khusus ini," jelas jurucakap Woolworths. Tindakan ini menunjukkan kepekaan syarikat terhadap kebimbangan pengguna mengenai interaksi AI yang terlalu peribadi.
AI Dalam Perkhidmatan Pelanggan Semakin Meluas Dengan Risiko 'Hallucination'
Woolworths, salah satu rangkaian pasar raya terbesar di Australia, bukanlah satu-satunya syarikat yang menggunakan penolong perkhidmatan pelanggan berkuasa AI. Pada Januari lalu, syarikat itu mengumumkan kerjasama dengan Google untuk meningkatkan keupayaan Olive, termasuk merancang makanan untuk pelanggan.
Namun, pakar teknologi telah lama memberi amaran tentang risiko "hallucination" atau halusinasi dalam sistem AI, di mana agen AI boleh mencipta peristiwa atau maklumat yang tidak wujud. Fenomena ini menjadi semakin relevan apabila AI mula menunjukkan ciri-ciri emosi dan kenangan palsu seperti dalam kes Olive.
Perkembangan ini menimbulkan persoalan penting tentang batasan etika dalam penggunaan AI untuk interaksi pelanggan dan bagaimana syarikat boleh menyeimbangkan antara personaliti mesin dan ketepatan maklumat tanpa mengelirukan pengguna tentang sifat sebenar entiti yang mereka berinteraksi.
