EU Bergerak Ke Arah Larangan Deepfake Seksual AI, Sasar Aplikasi 'Nudifikasi'
Parlimen Eropah pada Khamis meluluskan larangan terhadap sistem kecerdasan buatan (AI) yang menghasilkan deepfake seksual, sebagai tindak balas kepada kemarahan global berikutan imej bogel tanpa persetujuan yang dihasilkan oleh chatbot Grok milik Elon Musk. Majoriti besar ahli undang-undang EU menyokong teks yang menyasarkan aplikasi yang dikenali sebagai "nudifikasi" sebagai sebahagian daripada cadangan untuk meminda peraturan blok itu mengenai AI.
Larangan Terhadap Sistem 'Nudifier' Tanpa Persetujuan
Ahli undang-undang memperkenalkan larangan baharu terhadap sistem yang mereka panggil "nudifier" yang menggunakan AI "untuk mencipta atau memanipulasi imej yang bersifat seksual eksplisit atau intim dan menyerupai seseorang yang boleh dikenal pasti" tanpa persetujuan mereka. Walau bagaimanapun, mereka menekankan bahawa sistem AI dengan "langkah keselamatan berkesan yang menghalang pengguna daripada mencipta imej sedemikian" tidak terjejas oleh larangan ini.
Negara-negara anggota EU telah memberikan lampu hijau mereka sebelum ini, dan kini mereka akan berunding dengan parlimen mengenai teks akhir. Perbincangan dijangka berjalan lancar sebelum kelulusan muktamad, menunjukkan konsensus yang kukuh dalam menangani isu ini.
Skandal Grok dan Tindakan Platform X
Platform X, di mana Grok tersedia, pada Januari menyatakan akan membuat perubahan untuk menghentikan penciptaan deepfake seksual kanak-kanak dan wanita. Skandal ini telah mencetuskan siasatan berterusan oleh EU, menekankan keperluan segera untuk peraturan yang lebih ketat.
Larangan ini bertujuan untuk melindungi privasi dan keselamatan digital individu, terutamanya dalam era di mana teknologi AI semakin maju dan boleh disalahgunakan. EU mengambil langkah proaktif untuk memastikan bahawa kemajuan teknologi tidak mengorbankan hak asasi rakyat.
Kelewatan dalam Pelaksanaan Peraturan AI Berisiko Tinggi
Selain itu, ahli undang-undang EU juga menyokong kelewatan pelaksanaan peraturan AI berisiko tinggi, yang melibatkan model yang dianggap berpotensi berbahaya kepada keselamatan, kesihatan, atau hak asasi rakyat. Langkah-langkah ini, yang sepatutnya berkuat kuasa pada Ogos 2026 untuk sistem AI berdiri sendiri dan setahun kemudian untuk alat AI yang tertanam dalam produk lain, kini mungkin ditunda hingga Disember 2027 dan Ogos 2028 masing-masing.
Kelewatan ini membolehkan lebih banyak masa untuk penyelarasan dan penambahbaikan, memastikan peraturan tersebut efektif tanpa menghalang inovasi. EU berusaha untuk menyeimbangkan antara perlindungan awam dan perkembangan teknologi, dengan fokus pada pencegahan penyalahgunaan AI dalam konteks seksual dan privasi.
Langkah-langkah ini mencerminkan komitmen EU untuk memimpin dalam pengawalseliaan digital global, menetapkan piawaian yang boleh diikuti oleh wilayah lain. Dengan larangan deepfake seksual AI, EU menghantar mesej jelas bahawa keselamatan dan persetujuan digital adalah keutamaan utama dalam era teknologi moden.
