Facebook dibanjiri dengan gambar palsu yang dihasilkan oleh kecerdasan buatan (AI) yang mencipta butiran biografi dan hubungan selebriti untuk lelaki yang dituduh cuba membunuh Donald Trump di gala akhbar Washington pada Sabtu lalu.
Insiden di Gala Akhbar
Trump dan pegawai kanan pentadbiran telah dipindahkan dari majlis makan malam Persatuan Koresponden Rumah Putih apabila bunyi tembakan kedengaran dari tingkat di atas dewan, di mana suspek cuba merentasi kawalan keselamatan.
Dalam beberapa jam selepas pihak berkuasa mengenal pasti suspek sebagai Cole Tomas Allen, 31, dari California, gambar-gambar yang dihasilkan AI menunjukkan dia bersama ramai selebriti telah tersebar di Facebook dengan kapsyen mendakwa dia adalah "bekas pemandu", "pembantu" atau "ahli kru produksi" mereka.
Penyiasatan AFP
Penyiasatan AFP mendapati lebih daripada 50 tokoh awam dikaitkan secara palsu dengan Allen, termasuk pelakon Tom Hanks dan Sydney Sweeney, pemuzik Chris Brown dan Taylor Swift. Politisi termasuk bekas presiden AS Barack Obama dan Pierre Poilievre dari Kanada juga terlibat secara palsu, serta Paus Leo XIV dan penyampai NBC News Savannah Guthrie.
Meta tidak segera memberi respons kepada permintaan komen AFP.
Ekosistem Kandungan AI
Palsu ini mencerminkan ekosistem dalam talian yang dipenuhi dengan kandungan yang dikenali sebagai "AI slop". Dahulu tertumpu kepada selebriti, kandungan generatif kini berkembang pesat untuk menggambarkan individu seperti Allen, yang kehadiran dalam taliannya adalah terhad.
"Dua tahun lalu, anda mungkin tidak dapat membuat gambar-gambar itu kerana kami hanya boleh membuat palsu yang meyakinkan untuk selebriti yang mempunyai jejak digital yang besar dari mana sistem AI dilatih," kata Hany Farid dari Universiti California, Berkeley, yang juga ketua pegawai sains di GetReal Security. "Sekarang, saya hanya perlukan satu gambar anda."
Aaron Parnas, seorang wartawan bebas yang gambarnya muncul dalam siaran AI yang mendakwa Allen bekerja untuknya, merayu di Facebook agar orang melaporkan gambar yang "palsu sepenuhnya". "Ini sangat berbahaya," kata Parnas kepada pengikutnya.
Reka Bentuk untuk Viral
Satu lagi gelombang siaran palsu mendakwa Allen pernah menjadi kakitangan untuk lebih daripada 40 pasukan sukan profesional dan kolej, dengan visual AI yang memakaikannya dengan pakaian untuk pasukan NFL, NHL, NBA, WNBA dan NASCAR. Banyak rendering ini nampaknya berdasarkan gambar dari siaran syarikat tuisyen yang mengiktiraf Allen sebagai "guru bulan ini" pada Disember 2024.
Format berbentuk templat ini menyerupai output kilang kandungan yang menghasilkan cerita clickbait palsu secara besar-besaran, kata pakar literasi digital Mike Caulfield. "Ini kelihatan seperti tingkah laku ladang kandungan yang sama, hanya dengan AI," kata Caulfield kepada AFP.
Penambahbaikan terkini dalam teknologi AI telah menjadikan palsu visual lebih mudah dicipta dan lebih meyakinkan, dengan kesilapan yang pernah menjadi petanda seperti tangan enam jari semakin jarang berlaku.
"AI memudahkan untuk mengambil gambar sedia ada dan menukar pakaian, persekitaran, atau menukar muka orang lain," kata Jen Golbeck, profesor di Kolej Maklumat Universiti Maryland. "Sebaik sahaja seseorang mendapat idea, mereka boleh menjadikannya realiti visual." "Lima tahun lalu, ia tidak akan luar biasa untuk melihat orang memanipulasi gambar secara manual seperti yang kita lihat, tetapi ia tidak akan pernah pada jumlah ini."
Kebimbangan Penyelidik
Penyelidik menyatakan kebimbangan tentang kuantiti yang menekan pengguna media sosial, yang mungkin bosan menentukan apa yang nyata. AFP mendokumentasikan gelombang palsu yang serupa selepas peristiwa besar lain, termasuk penangkapan pemimpin Venezuela Nicolas Maduro oleh AS pada Januari dan pembunuhan Charlie Kirk tahun lalu.
"Perkara-perkara ini direka untuk viral, dan kemudian algoritma mengambilnya," kata Farid dari GetReal Security. "Ia sangat menguntungkan." "Setiap kali ada peristiwa dunia, kita dibanjiri dengan karut seperti ini. Saya tidak fikir ia akan hilang."
