Sistem AI Polis Sao Paulo: Kejayaan dan Kontroversi Penangkapan
Di tengah-tengah bandar raya Sao Paulo, sebuah "penjaraometer" memaparkan jumlah terkini individu yang dipenjarakan hasil daripada sistem pengenalan wajah kecerdasan buatan (AI) terbesar di Amerika Latin. Walau bagaimanapun, kejayaan sistem ini telah dicemari oleh beberapa kes penangkapan yang silap.
Operasi Pengawasan Canggih di Smart Sampa
Penunjuk digital tersebut terletak di luar pusat pemantauan Smart Sampa, di mana puluhan pegawai polis memantau imej yang disalurkan dari 40,000 kamera di seluruh megalopolis Brazil ini. Sao Paulo, bandar terbesar di Amerika Latin, telah lama bergelut dengan kadar jenayah yang tinggi, dan teknologi AI ini diperkenalkan pada tahun 2024 untuk mengimbas jalanan dan membandingkan imej dengan pangkalan data kehakiman.
Menurut laporan, jaringan Smart Sampa telah berjaya menangkap 3,000 orang buruan, manakala hampir 4,000 individu ditahan ketika sedang melakukan jenayah. "Dengan bilangan buruan yang ditangkap sistem ini, kita boleh memenuhkan tujuh penjara. Hari ini, saya tidak dapat membayangkan Sao Paulo tanpa Smart Sampa," kata Setiausaha Keselamatan Perbandaran Orlando Morando kepada AFP mengenai program yang menelan kos kira-kira dua juta dolar sebulan ini.
Kesilapan dan Penangkapan yang Tidak Tepat
Namun, sistem ini jauh daripada sempurna. Laporan ketelusan rasmi yang dianalisis oleh AFP menunjukkan bahawa lebih daripada 8 peratus orang yang dikenal pasti sebagai buruan dan ditahan pada tahun pertama operasi Smart Sampa terpaksa dibebaskan kerana kesilapan. Sekurang-kurangnya 59 tahanan dibebaskan kerana sistem tersilap mengenal pasti mereka sebagai individu lain.
Pada Disember lalu, seorang pesara berusia 80 tahun menghabiskan beberapa jam dalam tahanan kerana Smart Sampa mengelirukannya dengan seorang perogol. Sebulan sebelumnya, sekumpulan pesakit psikiatri sedang menghadiri terapi di pusat kesihatan mental apabila polis bersenjata menyerbu masuk dan membelenggu salah seorang daripada mereka. Selepas beberapa jam di balai polis, tahanan itu dibebaskan, dan pihak berkuasa menyatakan bahawa waran tangkapnya tidak lagi sah.
Kebimbangan Mengenai Kawalan Sivil dan Bias Algoritma
Di kalangan buruan yang ditangkap oleh Smart Sampa, hampir separuh daripada jenayah mereka diklasifikasikan sebagai "lain-lain." Hampir kesemuanya adalah individu yang berhutang nafkah anak, suatu kesalahan sivil yang "kurang berkaitan dengan keselamatan awam," menurut laporan bertajuk "Smart Sampa: Ketelusan untuk Siapa? Ketelusan Apa?"
"Smart Sampa dipersembahkan sebagai penyelesaian kepada jenayah tetapi digunakan untuk kawalan sivil," amaran Amarilis Costa, pengarah rangkaian peguam Liberdade dan penulis bersama laporan tersebut. Pihak kerajaan pula menafikan percubaan untuk "mendiskreditkan" Smart Sampa, dengan membanggakan penurunan hampir 15 peratus dalam kes rompakan pada tahun 2025.
Isu Data Kaum dan Potensi Diskriminasi
Identiti kaum lebih daripada separuh daripada mereka yang didapati bersalah dan dipenjarakan selepas ditangkap oleh Smart Sampa tidak dimasukkan dalam data rasmi. Costa menyatakan bahawa ini mewujudkan jurang maklumat yang menyukarkan untuk mengetahui sama ada Smart Sampa mengalami "rasisme algoritma" di sebuah negara dengan salah satu populasi kulit hitam terbesar di dunia.
Kajian di beberapa negara mencadangkan bahawa sistem pengenalan wajah AI cenderung membuat lebih banyak kesilapan dengan orang kulit hitam. Pihak kerajaan berhujah bahawa kekurangan data kaum adalah tanggungjawab sistem keadilan. "Smart Sampa tidak mempunyai prasangka—kami tidak menangkap orang berdasarkan warna kulit," tegas Morando.
Kebanyakan penangkapan oleh Smart Sampa berlaku di kawasan pinggir bandar, dengan ramai daripada mereka yang ditahan merupakan pendatang dari wilayah pedalaman Brazil yang lebih miskin. Sistem ini bergantung bukan sahaja pada kamera jalanan tetapi juga kamera di bangunan awam—termasuk pusat kesihatan—dan bangunan persendirian yang bersetuju untuk menyertai program ini.
