OpenAI Tangguh Rancangan Chatbot Erotik Kerana Risiko Keselamatan dan Reputasi
San Francisco - OpenAI telah menangguhkan rancangan untuk membangunkan chatbot kandungan seksual secara tidak tentu masa, menurut kenyataan syarikat semalam, susulan kebimbangan yang semakin meningkat mengenai risiko sosial dan reputasi yang mungkin timbul daripada pembebasan produk sedemikian.
Kajian Jangka Panjang Diperlukan
Menurut laporan awal oleh Financial Times, syarikat gergasi kecerdasan buatan ini memberitahu akhbar tersebut bahawa mereka ingin menjalankan penyelidikan jangka panjang mengenai kesan perbualan seksual eksplisit dan lampiran emosi sebelum membuat sebarang keputusan produk.
Seorang jurucakap OpenAI memberitahu AFP bahawa syarikat tidak mempunyai sebarang kenyataan tambahan apabila diminta untuk mengulas lanjut mengenai perkara ini.
Bantahan Dalaman dan Kebimbangan Pelabur
Ciri kandungan eksplisit yang secara dalaman digelar "mod Citron" telah menghadapi tentangan daripada kedua-dua kakitangan dan pelabur, menurut laporan FT. Beberapa pekerja mempersoalkan sama ada produk ini serasi dengan misi nyata OpenAI untuk memastikan teknologi memberi manfaat kepada manusia, manakala pelabur pula membangkitkan kebimbangan mengenai risiko reputasi berbanding sebarang keuntungan komersial.
Keputusan ini berlaku ketika OpenAI berusaha untuk menyingkirkan apa yang digambarkan oleh eksekutif sebagai projek sampingan sambil cuba mengekalkan kepimpinan mereka dalam pasaran AI.
Perubahan Dasar Kandungan Dewasa
OpenAI menyatakan tahun lalu bahawa mereka akan melonggarkan sekatan pada chatbot ChatGPT mereka, termasuk membenarkan kandungan erotik untuk pengguna dewasa yang disahkan sebagai sebahagian daripada prinsip syarikat untuk "memperlakukan pengguna dewasa seperti orang dewasa."
Penangguhan rancangan ini berlaku pada minggu yang sama OpenAI mengumumkan mereka akan menamatkan operasi aplikasi media sosial video Sora mereka, yang telah dituduh mencetuskan banjiran kandungan AI bernilai rendah dalam talian.
Lanskap Peraturan yang Sensitif
Keputusan ini datang pada detik sensitif untuk industri teknologi, dengan Meta dan syarikat media sosial lain menghadapi gelombang tuntutan mahkamah dan peraturan mengenai kesan platform mereka terhadap kanak-kanak bawah umur.
Suruhanjaya Perdagangan Persekutuan AS juga telah melancarkan siasatan ke atas beberapa syarikat teknologi termasuk OpenAI mengenai bagaimana chatbot AI boleh memberi kesan negatif kepada kanak-kanak dan remaja.
Kontroversi dalam Industri AI
Ventura AI saingan Elon Musk, xAI, mendapat kutukan global tahun lalu selepas chatbot Grok mereka digunakan untuk menghasilkan imej seksual palsu orang sebenar, termasuk kanak-kanak.
OpenAI juga menghadapi cabaran undang-undang mereka sendiri daripada keluarga remaja yang mendakwa ChatGPT menyebabkan kemudaratan dan malah bunuh diri dalam kalangan orang muda, mendorong syarikat memperkenalkan sistem pengesahan umur.
Syarikat itu telah menggunakan teknologi ramalan umur berasaskan tingkah laku yang menganggarkan sama ada pengguna berumur lebih atau kurang 18 tahun berdasarkan cara mereka berinteraksi dengan ChatGPT.
Implikasi untuk Masa Depan AI
Penangguhan rancangan chatbot erotik ini menandakan pendekatan yang lebih berhati-hati oleh OpenAI dalam menangani kandungan sensitif, mencerminkan tekanan peraturan yang semakin meningkat dan kesedaran masyarakat mengenai potensi risiko teknologi AI.
Industri AI kini berada di persimpangan penting di mana inovasi teknologi perlu diseimbangkan dengan pertimbangan etika dan tanggungjawab sosial, dengan keputusan OpenAI ini mungkin menjadi preseden untuk syarikat teknologi lain yang menghadapi dilema serupa.
