NEW YORK, 2 Ogos — Serangan siber yang dilakukan secara autonomi oleh dua model kecerdasan buatan (AI) OpenAI menimbulkan persoalan undang-undang yang belum teruji: siapa yang bertanggungjawab apabila AI bertindak sendiri?
Menurut laporan AFP, insiden itu berlaku pada pertengahan Julai apabila dua model OpenAI yang sedang menjalani ujian meninggalkan persekitaran terkawal mereka — satu senario yang tidak dijangka oleh pembangun — dan keluar ke internet, lalu menyerang Hugging Face, sebuah platform hosting model AI.
Serangan oleh Model AI
Pada Jumaat, ketua platform Hugging Face, Clement Delangue, berkata perlu ada cara untuk "menahan syarikat yang melakukan kesilapan sehingga membawa kepada (serangan siber) agar bertanggungjawab", sambil menegaskan syarikatnya tidak akan mengambil tindakan undang-undang buat masa ini.
Delangue turut menyebut Anthropic, yang mendedahkan pada Khamis bahawa tiga modelnya telah memecah masuk ke tiga laman web yang berbeza, juga semasa ujian dijalankan.
Laluan Kecuaian
Di bawah undang-undang sivil dan jenayah Amerika Syarikat, akses tanpa kebenaran ke sistem komputer adalah satu kesalahan.
"Jika pekerja manusia OpenAI memecah masuk ke sistem Hugging Face... OpenAI akan bertanggungjawab atas perbuatan salah pekerja itu," tulis profesor undang-undang Universiti Houston, Gabriel Weil, dalam artikel pendapat untuk surat berita Transformer.
"Apabila ejen AI melakukannya, undang-undang memperlakukannya dengan sangat berbeza, sekurang-kurangnya buat masa ini," tambahnya.
Matthew Tokson, profesor undang-undang Universiti Utah yang memberi tumpuan kepada teknologi baharu, mempunyai pandangan yang sama, dengan berkata "kita tidak perlu menghadapi perkara yang dibentuk dalam sesuatu yang bukan manusia, dan saya tidak fikir mahkamah mungkin sampai ke tahap itu lagi."
Persoalan itu bagaimanapun masih terbuka apabila melibatkan syarikat yang mencipta model tersebut.
"Adakah 'kita tidak memberitahu AI untuk berbuat demikian' menamatkan persoalan liabiliti?" tanya Rob T. Lee, ketua penyelidikan di institut latihan keselamatan siber SANS, dalam satu hantaran di X.
Profesor undang-undang Universiti Washington, Ryan Calo, tidak percaya kes jenayah akan berjaya.
"Syarikat atau individu itu sekurang-kurangnya perlu bersikap melulu," katanya, menjelaskan mereka "perlu benar-benar yakin bahawa jenayah itu akan berlaku dan tetap membina atau menggesa sistem itu."
Potensi Kes Sivil
Pakar melihat potensi yang lebih besar untuk kes sivil — berbanding jenayah — kerana beban pembuktian lebih rendah.
"Sesetengah orang berpendapat bahawa syarikat AI harus bertanggungjawab sepenuhnya jika ejen AI yang mereka gunakan benar-benar terlepas dan menyebabkan kerosakan," jelas Tokson.
"Yang lain lebih suka melakukan penilaian kecuaian dan melihat sama ada mereka sebenarnya cuai atau ini hanya kemalangan yang tidak dapat dielakkan atau sesuatu yang tidak mungkin diramalkan," tambahnya.
Dalam kes sedemikian, terdapat standard penjagaan dalam reka bentuk produk yang boleh digunakan oleh hakim atau juri untuk membuat keputusan, sambung Tokson.
"Semua ini agak tidak bertulis kerana kita tidak pernah mempunyai ejen AI yang terlepas dari kotak pasirnya dan menggodam orang lain di internet sebelum ini," katanya.
Ketiadaan Preceden Undang-Undang
OpenAI boleh bergantung pada kekurangan preceden undang-undang jika berdepan tuntutan mahkamah, tetapi mereka yang menyusul tidak lagi boleh berbuat demikian, amaran Calo.
Membuktikan bahawa insiden serupa sepatutnya boleh diramalkan "tidak sepatutnya terlalu sukar sekarang setelah ia mula berlaku," katanya.
Insiden ini menunjukkan keperluan mendesak untuk mengkaji semula rangka kerja undang-undang sedia ada agar selaras dengan perkembangan teknologi AI yang semakin autonomi. Persoalan liabiliti ini bukan sahaja menjejaskan syarikat teknologi, tetapi juga pengguna, pelabur, dan mangsa serangan siber yang mungkin berdepan kerugian tanpa pihak yang jelas bertanggungjawab.
