WASHINGTON: YouTube menawarkan alat pengesan deepfake percuma kepada selebriti Hollywood dan penghibur, memperluaskan usaha platform milik Google itu untuk menangani penyamaran yang didorong oleh kecerdasan buatan (AI).
Langkah Baharu YouTube
Bulan lalu, YouTube memperkenalkan alat perlindungan imej yang membantu mengenal pasti kandungan di mana wajah seseorang diubah atau dijana menggunakan teknologi AI. Alat itu pada mulanya disediakan kepada pegawai kerajaan, wartawan, dan calon politik.
Kini, platform tersebut melanjutkan akses kepada penghibur termasuk pelakon dan pemuzik, yang berdepan risiko tinggi penyalahgunaan imej mereka - berpotensi merosakkan kerjaya dan memesongkan realiti bersama.
"Kami memperluaskan teknologi pengesanan imej kami kepada industri hiburan: agensi bakat, syarikat pengurusan, dan selebriti yang mereka wakili," kata YouTube awal minggu ini.
Pengesanan imej "mencari kandungan yang dijana AI dengan imej peserta, seperti deepfake wajah mereka, dan memberi mereka kuasa untuk mencarinya serta meminta pemadaman."
Gergasi video itu menambah bahawa selebriti dan penghibur layak mengakses alat tersebut tanpa mengira sama ada mereka mempunyai saluran YouTube.
Reaksi Industri
"YouTube membuka keupayaan pengesanan deepfake kepada tokoh awam mencerminkan titik perubahan dalam cara platform mendekati perlindungan identiti dalam era AI generatif," kata Alon Yamin, ketua pegawai eksekutif dan pengasas bersama platform pengesanan kandungan AI, Copyleaks, kepada AFP.
"Teknologi untuk meniru wajah, suara, dan gaya seseorang telah berkembang lebih pantas daripada langkah keselamatan di sekelilingnya, mewujudkan jurang yang sudah dieksploitasi oleh pihak jahat."
Konteks Lebih Luas
Langkah ini berikutan penyebaran pantas video AI hiper-realistik selebriti mati yang dicipta menggunakan aplikasi seperti Sora daripada OpenAI, mencetuskan perdebatan mengenai kawalan imej orang yang telah meninggal dunia.
Aplikasi OpenAI juga mencetuskan banjir video selebriti seperti Michael Jackson dan Elvis Presley. Bulan lalu, OpenAI mengumumkan penutupan aplikasi Soranya.
Pada Februari, pengarah Ireland Ruairí Robinson mencipta klip realistik menakjubkan yang memaparkan Brad Pitt bertarung dengan Tom Cruise di atas bumbung menggunakan gesaan dua ayat. Klip yang tersebar luas itu, yang mencetuskan kebimbangan di Hollywood, dijana dengan Seedance 2.0, alat penjanaan video AI milik syarikat teknologi China ByteDance.
Robinson juga mencipta video lain yang menggambarkan Pitt bertarung dengan "ninja zombi" bersenjatakan pedang, dan satu lagi menunjukkan dia bekerjasama dengan Cruise untuk melawan robot.
Charles Rivkin, pengerusi dan ketua pegawai eksekutif Motion Picture Association, menyeru ByteDance untuk "segera menghentikan aktiviti pelanggarannya," menuduhnya mengabaikan undang-undang hak cipta yang melindungi pencipta dan menyokong berjuta-juta pekerjaan.
Kerjasama dengan Agensi Bakat
YouTube berkata ia sedang bekerjasama dengan agensi bakat terkemuka untuk memperhalusi cara pengesanan imej dapat melindungi penghibur.
Gergasi video itu "melakukan perkara yang betul dengan menyediakan alat ini secara percuma kepada bakat, supaya mereka dapat melindungi aset mereka," kata Jason Newman dari firma pengurusan dan produksi Untitled Entertainment kepada The Hollywood Reporter.
"Aset mereka adalah wajah mereka. Aset mereka adalah badan mereka. Aset mereka adalah siapa mereka, apa yang mereka lakukan, bagaimana mereka mengatakannya."
Kesan dan Masa Depan
Perluasan alat pengesanan ini berikutan aduan daripada individu Amerika berprofil tinggi mengenai proses rumit YouTube untuk menandakan dan mengalih keluar deepfake dari platform - terutamanya apabila AI mempercepatkan penciptaan kandungan palsu.
"Bagi selebriti, eksekutif, dan individu berprofil tinggi lain, taruhannya sangat tinggi kerana deepfake boleh digunakan untuk menyebarkan maklumat salah, memanipulasi pasaran, merosakkan reputasi, atau secara palsu menyiratkan sokongan. Pengesanan yang mantap tidak lagi pilihan," kata Yamin.
"Sistem pengesanan mesti tepat, dikemas kini secara berterusan, dan dipasangkan dengan dasar yang jelas serta proses pemadaman pantas untuk berkesan. Ini tidak akan menghapuskan deepfake sepenuhnya, tetapi boleh mengurangkan jangkauan dan kesannya dengan ketara dengan menyukarkan kandungan yang dimanipulasi untuk tidak dikesan atau tidak dicabar," tambahnya.
