WASHINGTON: Amerika Syarikat pada hari Selasa mula menguatkuasakan undang-undang yang mewajibkan platform teknologi membuang kandungan deepfake seksual dan imej intim tanpa izin yang lain, namun pakar memberi amaran tentang kelemahan serta menimbulkan kebimbangan penapisan dalam talian.
Undang-undang Take It Down
Presiden Donald Trump menandatangani Akta Take It Down tahun lalu, menjenayahkan pengedaran dalam talian imej seksual tanpa izin yang sering dihasilkan menggunakan alat kecerdasan buatan yang murah dan mudah didapati.
Suruhanjaya Perdagangan Persekutuan (FTC) menyatakan bahawa mulai Selasa, platform teknologi diwajibkan untuk menubuhkan proses yang membolehkan mangsa meminta pembuangan kandungan tersebut dan mesti bertindak dalam tempoh 48 jam selepas menerima permintaan yang sah – atau berdepan penalti.
“Kami bersedia untuk memantau pematuhan, menyiasat pelanggaran, dan menguatkuasakan Akta Take It Down,” kata Pengerusi FTC Andrew Ferguson selepas menghantar surat kepada lebih sedozen firma teknologi – termasuk Meta, TikTok, X, dan Snapchat – sebelum penguatkuasaan. “Melindungi golongan rentan – terutamanya kanak-kanak – daripada penderaan berbahaya ini adalah keutamaan utama bagi agensi dan pentadbiran ini.”
Dalam satu hantaran pada hari Isnin, akaun Keselamatan X menyatakan bahawa “tiada tempat dalam masyarakat kita untuk pemangsa berkongsi gambar dan video intim orang lain tanpa persetujuan mereka.” “X mempunyai toleransi sifar terhadap imej intim tanpa izin, kandungan seksual yang tidak diingini, atau sebarang tingkah laku eksploitatif.”
‘Tembak dahulu, tanya kemudian’
Jaminan ini muncul selepas alat AI Grox milik Elon Musk menghadapi kecaman antarabangsa awal tahun ini kerana secara maya menanggalkan pakaian wanita dan kanak-kanak bawah umur tanpa persetujuan mereka. Penyelidik mengatakan Grok menjana kira-kira tiga juta imej seksual dalam beberapa hari sahaja.
Namun, beberapa pakar memberi amaran bahawa Akta Take It Down bukanlah penyelesaian yang sempurna. Riana Pfefferkorn, felo dasar di Institut Kecerdasan Buatan Berpusatkan Manusia Stanford, berkata bahawa undang-undang itu mewujudkan dinamik “tembak dahulu, tanya kemudian.” Struktur insentif adalah ke arah “buang sahaja, buang sahaja, buang sahaja,” katanya seperti dipetik dalam Indicator, surat berita yang memberi tumpuan kepada penyiasatan penipuan digital.
Pfefferkorn juga menyatakan kebimbangan bahawa undang-undang itu boleh digunakan terhadap orang trans, pekerja seks yang kandungannya adalah secara suka rela, dan ucapan politik yang tidak dipersetujui oleh pentadbiran. Peruntukan pembuangan undang-undang itu juga telah membimbangkan penyokong kebebasan bersuara lain, yang memberi amaran ia boleh menggalakkan firma teknologi untuk menyederhanakan kandungan yang tidak menyinggung secara berlebihan untuk mengurangkan risiko.
Ledakan deepfake tanpa izin
Ledakan dalam talian deepfake tanpa izin kini mengatasi usaha untuk mengawal selia teknologi di seluruh dunia disebabkan oleh percambahan alat AI, termasuk aplikasi “nudification,” kata pakar. Walaupun ahli politik dan selebriti terkenal, termasuk penyanyi Taylor Swift, telah menjadi mangsa lucah deepfake, penyelidik mengatakan wanita yang tidak berada dalam perhatian umum juga sama rentan.
Gelombang skandal lucah AI telah dilaporkan di sekolah-sekolah di seluruh negeri AS – dari California hingga New Jersey – dengan beratus-ratus remaja menjadi sasaran rakan sekelas mereka sendiri. Imej tanpa izin seperti ini boleh membawa kepada gangguan, buli atau pemerasan, kadangkala menyebabkan kesan kesihatan mental yang buruk, amaran pakar.
