Mahkamah Belanda Keluar Larangan Tegas Terhadap Fitur Deepfake Grok
Mahkamah Amsterdam mengeluarkan perintah tegas semalam yang mengarahkan platform X dan Grok, pembantu kecerdasan buatan Elon Musk, untuk menghentikan penjanaan dan pengedaran gambar bogel tanpa persetujuan serta bahan yang memaparkan penderaan seksual kanak-kanak. Keputusan mahkamah ini datang selepas tindakan undang-undang oleh Offlimits, pusat pemantauan keganasan dalam talian Belanda.
X Dihalang Tawarkan Perkhidmatan AI di Belanda
Sehingga Grok mematuhi keputusan mahkamah, X juga dilarang menawarkan perkhidmatan pembantu AI mereka di Belanda. Larangan ini meliputi penjanaan gambar penduduk yang tinggal di Belanda serta pengeluaran dan pengedaran imej tersebut di negara itu.
Offlimits mengambil tindakan undang-undang terhadap platform tersebut berikutan pengenalan fitur Grok beberapa bulan lalu yang membolehkan pengguna meminta penciptaan montaj deepfake hiper-realistik wanita dan kanak-kanak bogel menggunakan foto sebenar. Walaupun Grok dan X menyatakan mereka berhasrat memerangi imej sedemikian dengan memasukkan larangan dalam terma perkhidmatan mereka, mahkamah mendapati terdapat keraguan munasabah tentang keberkesanan langkah-langkah yang diambil setakat ini.
Denda Berat Bagi Pelanggaran Larangan
Sebarang pelanggaran terhadap larangan ini akan dihukum dengan denda €100,000 sehari, dengan had maksimum €10 juta. Keputusan mahkamah ini sejajar dengan perkembangan terkini di peringkat Kesatuan Eropah.
Sokongan Parlimen EU Terhadap Larangan Deepfake Seksual
Lebih awal semalam, Parlimen Eropah meluluskan larangan terhadap sistem kecerdasan buatan yang menjana deepfake seksual, berikutan kemarahan global terhadap gambar bogel yang dihasilkan Grok tanpa persetujuan. Majoriti besar ahli parlimen EU menyokong teks yang mensasarkan aplikasi "penelanjangan" sebagai sebahagian daripada cadangan untuk meminda peraturan blok itu mengenai AI.
Langkah ini dimasukkan dalam teks yang diterima pakai oleh majoriti besar 569 kepada 45 semasa sesi pleno di Brussels. Keputusan ini menandakan pendekatan yang lebih ketat terhadap penyalahgunaan teknologi AI untuk tujuan yang tidak beretika dan berbahaya.
Kedua-dua perkembangan ini mencerminkan kebimbangan yang semakin meningkat di peringkat antarabangsa tentang potensi penyalahgunaan teknologi deepfake dan kecerdasan buatan, terutamanya dalam konteks keganasan seksual dalam talian dan perlindungan kanak-kanak.
