WASHINGTON, 30 April — Facebook telah dibanjiri dengan gambar ciptaan kecerdasan buatan (AI) berkualiti rendah yang mereka cipta butiran peribadi dan kaitan dengan selebriti bagi lelaki yang dituduh cuba membunuh Donald Trump di majlis gala Washington pada Sabtu lalu.
Kejadian tembakan di majlis wartawan
Trump dan pegawai kanan pentadbiran telah dipindahkan dari Majlis Makan Malam Persatuan Koresponden Rumah Putih apabila bunyi tembakan kedengaran dari tingkat di atas dewan jamuan, di mana suspek cuba merempuh kawalan keselamatan.
Dalam beberapa jam selepas pihak berkuasa mengenal pasti suspek sebagai Cole Tomas Allen, 31, dari California, gambar yang dihasilkan AI menunjukkan dia bersama pelbagai selebriti tersebar dengan pantas di Facebook dalam siaran yang mendakwa dia adalah "bekas pemandu," "pembantu" atau "ahli kru produksi" mereka.
Penyiasatan AFP
Siasatan AFP mendapati lebih daripada 50 tokoh awam dikaitkan secara palsu dengan Allen, termasuk pelakon Tom Hanks dan Sydney Sweeney, pemuzik Chris Brown dan Taylor Swift. Politisi seperti bekas presiden AS Barack Obama dan Pierre Poilievre dari Kanada juga terlibat secara palsu, begitu juga Paus Leo XIV dan penyampai berita NBC Savannah Guthrie.
Meta tidak memberikan respons segera terhadap permintaan komen AFP.
Fenomena 'AI slop'
Gambar palsu ini mencerminkan ekosistem dalam talian yang dipenuhi dengan kandungan yang dikenali sebagai "AI slop." Dahulunya tertumpu kepada selebriti, kandungan generatif kini pantas menggambarkan individu seperti Allen, yang kehadiran dalam taliannya amat terhad.
"Dua tahun lalu, anda mungkin tidak dapat membuat gambar seperti itu kerana kami hanya boleh menghasilkan palsu yang meyakinkan untuk selebriti yang mempunyai jejak digital besar yang digunakan untuk melatih sistem AI," kata Hany Farid dari Universiti California, Berkeley, yang juga ketua pegawai sains di GetReal Security. "Sekarang, saya hanya perlukan satu gambar anda."
Aaron Parnas, seorang wartawan bebas yang wajahnya muncul dalam siaran AI yang mendakwa Allen bekerja untuknya, merayu di Facebook supaya orang ramai melaporkan gambar yang "benar-benar palsu" itu. "Ini sangat berbahaya," kata Parnas kepada pengikutnya.
Reka bentuk untuk viral
Satu lagi gelombang siaran palsu mendakwa Allen pernah menjadi kakitangan lebih 40 pasukan sukan profesional dan kolej, dengan visual AI menggambarkannya memakai pakaian untuk pasukan NFL, NHL, NBA, WNBA dan NASCAR. Kebanyakan hasil ini kelihatan berdasarkan gambar dari siaran syarikat tuisyen yang mengiktiraf Allen sebagai "guru bulan ini" pada Disember 2024.
Format berpandukan templat ini menyerupai hasil kilang kandungan yang menghasilkan cerita clickbait palsu secara besar-besaran, kata pakar literasi digital Mike Caulfield. "Ini kelihatan seperti tingkah laku ladang kandungan yang sama, cuma dengan AI," kata Caulfield kepada AFP.
Kemajuan terkini dalam teknologi AI telah menjadikan palsu visual lebih mudah dicipta dan lebih meyakinkan, dengan kesilapan seperti tangan berjari enam semakin jarang berlaku. "AI menjadikannya sangat mudah untuk mengambil gambar sedia ada dan menukar pakaian, persekitaran, atau menggantikan muka seseorang," kata Jen Golbeck, profesor di Kolej Maklumat Universiti Maryland. "Sebaik sahaja seseorang mendapat idea, mereka boleh menjadikannya realiti visual."
"Lima tahun lalu, tidaklah luar biasa melihat orang memanipulasi gambar secara manual seperti yang kita lihat sekarang, tetapi ia tidak akan pernah berlaku pada jumlah ini."
Penyelidik menyuarakan kebimbangan tentang kuantiti yang memenatkan pengguna media sosial, yang mungkin bosan menentukan apa yang benar. AFP mendokumentasikan gelombang palsu yang serupa selepas peristiwa besar lain, termasuk penangkapan pemimpin Venezuela Nicolas Maduro oleh AS pada Januari dan pembunuhan Charlie Kirk tahun lalu.
"Benda-benda ini direka untuk viral, dan kemudian algoritma mengambilnya," kata Farid dari GetReal Security. "Ia sangat menguntungkan. Setiap kali ada peristiwa dunia, kita dibanjiri dengan perkara karut seperti ini. Saya rasa ia tidak akan hilang." — AFP
