Video AI Palsu Perang Iran-AS Tular di X Meskipun Dasar Ketat Elon Musk
Platform media sosial X milik Elon Musk kini dibanjiri dengan video deepfake yang dihasilkan kecerdasan buatan (AI) yang menggambarkan askar Amerika Syarikat ditawan oleh Iran, bandar-bandar Israel musnah sepenuhnya, dan kedutaan AS terbakar hebat. Kemunculan kandungan palsu yang sangat realistik ini berlaku meskipun X baru-baru ini mengumumkan dasar ketat untuk mengekang penyebaran maklumat palsu semasa konflik ketenteraan.
Banjir Visual AI yang Sukar Dibezakan
Menurut penyelidik, perang di Timur Tengah telah mencetuskan banjir visual yang dihasilkan AI yang jauh melebihi apa yang pernah dilihat dalam konflik sebelumnya. Banyak pengguna media sosial kini menghadapi kesukaran untuk membezakan antara kandungan yang sebenar dengan yang palsu kerana kualiti deepfake yang semakin sempurna dan sukar dikesan.
"Suapan yang saya pantau masih dibanjiri kandungan AI mengenai perang," kata Joe Bodnar dari Institut Dialog Strategik kepada AFP. "Nampaknya pencipta kandungan tidak terhalang untuk terus menyebarkan imej dan video AI yang mengelirukan tentang konflik ini."
Dasar Baharu X dan Kritikan
Dalam usaha melindungi "maklumat autentik" semasa konflik, X mengumumkan minggu lalu bahawa mereka akan menggantung pencipta kandungan daripada program perkongsian hasil selama 90 hari jika mereka menyiarkan video perang yang dihasilkan AI tanpa mendedahkan bahawa kandungan tersebut dibuat secara buatan. Pelanggaran berulang akan mengakibatkan penggantungan kekal, menurut amaran Nikita Bier, ketua produk X.
Dasar baharu ini menandakan perubahan ketara untuk platform yang banyak dikritik kerana menjadi tempat perlindungan maklumat palsu sejak Musk melengkapkan pemerolehan bernilai AS$44 bilion pada Oktober 2022. Sarah Rogers, pegawai kanan Jabatan Negara AS, memuji langkah ini sebagai "pelengkap hebat" kepada Community Notes X.
Namun, penyelidik maklumat palsu tetap skeptikal. Bodnar menunjuk kepada siaran daripada akaun "blue check" premium X yang layak untuk pemantauan yang berkongsi klip AI menggambarkan serangan "berkeupayaan nuklear" Iran ke atas Israel. Siaran itu mendapat lebih banyak tontonan berbanding mesej Bier mengenai tindakan tegas terhadap kandungan AI.
Insentif Kewangan untuk Kandungan Palsu
Penyelidik memberi amaran bahawa model X yang membenarkan akaun premium menerima bayaran berdasarkan penglibatan telah meningkatkan insentif kewangan untuk menyebarkan kandungan palsu atau sensasi. Satu akaun premium yang menyiarkan video AI Burj Khalifa Dubai terbakar mengabaikan permintaan Bier untuk melabelkan kandungan sebagai AI, dan siaran itu kekal dalam talian dengan lebih dua juta tontonan.
AFP bertanya kepada X berapa banyak akaun yang telah dinyahmonet sejak pengumuman Bier, tetapi platform itu tidak memberikan respons. Rangkaian global pemeriksa fakta AFP dari Brazil ke India telah mengenal pasti aliran palsu AI mengenai perang Timur Tengah, kebanyakannya daripada akaun premium X dengan tanda semak biru yang boleh dibeli.
Masalah dengan Grok dan Community Notes
Grok, chatbot AI X sendiri, nampaknya memburukkan masalah dengan secara salah memberitahu pengguna yang mencari pemeriksaan fakta bahawa banyak visual AI dari perang adalah nyata. Penyelidik juga memberi amaran bahawa banjir visual yang dipalsukan AI yang bercampur dengan imej autentik dari Timur Tengah terus berkembang lebih pantas daripada kemampuan pemeriksa fakta profesional untuk menyangkalnya.
Mengenai Community Notes, sistem verifikasi berasaskan kerumunan X, kajian tahun lalu oleh Institut Demokrasi Digital Amerika mendapati lebih 90 peratus Community Notes tidak pernah diterbitkan. "X's policy is a reasonable countermeasure to viral disinformation about the war," kata Alexios Mantzarlis dari Cornell Tech. "The devil will be in the implementing detail."
Laporan Pelanggaran Sekatan AS
Bulan lalu, laporan dari Projek Ketelusan Teknologi menyatakan X nampaknya mendapat keuntungan daripada lebih dua puluh akaun premium milik pegawai kerajaan Iran dan saluran berita yang dikawal negara yang mendorong propaganda, berpotensi melanggar sekatan AS. X kemudiannya mengalih keluar tanda semak biru untuk sebahagian daripada mereka.
Walaupun dasar penyahmonetan X dilaksanakan dengan ketat, penyelidik menekankan bahawa sebilangan besar pengguna X yang menyebarkan kandungan AI bukan sebahagian daripada program perkongsian hasil. Pengguna ini masih tertakluk kepada pemeriksaan fakta melalui Community Notes, sistem yang keberkesanannya telah berulang kali dipersoalkan oleh penyelidik.
