Beş ay süren gözetim araçlarının konuşlandırılması, dokuz yanlış uyarıya yol açarken, memurları 146 kayıtlı cinsel suçluyla görüşmeye yönlendirdi
-
Breakingle news e-postamız, ücretsiz uygulamamız veya günlük haber podcast’imizden yararlanın
Breakingle news e-postamız, ücretsiz uygulamamız veya günlük haber podcast’imizden yararlanın
Western Australia’da gerçek zamanlı yüz tanıma teknolojisinin kullanıldığı denemede milyonun üzerinde kişinin yüzü taranmış, bu da 122 tutuklama ve dokuz yanlış uyarı ile sonuçlanmış.
WA polisi, Cumartesi günü sona eren beş aylık denemede teknolojinin 43 bölge ve metropol bölgesinde gerçekleştirilen 100 konuşlandırmanın ardından 1.380.882 yüzü taradığını belirtti.
122 tutuklamanın yanı sıra, uyarılar memurları 146 kayıtlı cinsel suçluyla görüşmeye ve refah kontrolü için 10 kişiyi bulmaya yönlendirdi.
Konuşlandırmalar arasında, 223.749 yüzün tarandığı Perth Royal Show’da gerçekleştirilen üç operasyon bulunuyor; burada 15 uyarı, üç tutuklama ve kayıtlı cinsel suçlularla yedi “etkileşim” kaydedildi.
Bir polisi sözcüsü, sistemin toplam 1,38 milyon taramaya karşılık dokuz yanlış uyarı ürettiğini, yani hata oranının 0,00065% olduğunu onayladı.
Pazar günü bir medya konferansında yanlış eşleşmelere yaklaşırken, WA polisi komiseri Col Blanch, memurların her bireyle görüştüğünü onayladı.
“Bu yanlış uyarılar konusunda çok net olmak istiyorum,” dedi. “Kimse tutuklanmadı. Kimse şikayet etmedi. Her biri söz konusu kişiyle bir etkileşim ve kendilerine ilgili sorular sorularak sonuçlandı.
“Çok, çok, çok düşük bir sayı. Sıfır değil. Sıfır olmasını isterdik. Ancak bizim için önemli olan, bir insan birinin istenen kişi olduğunu düşünseymiş gibi toplulukla etkileşime girmek.”
Blanch, teknolojinin “mükemmel olmadığını” ve yetkililerin bu denemeye “girirken bunu bildiğini” kabul etti, ancak memurların uyarıları, halktan biri bir şüphe uyandırsa yapacakları şekilde takip ettiklerini savundu.
Buna rağmen, sivil özgürlük savunucuları, WA polisinin hata oranını sunma şeklini eleştirdi.
Civil Liberties Australia’nın genel müdürü Bill Rowlings, WA polisinin hatalı uyarı oranının 0.00065% olduğunu iddia etmesinin “gereksiz yere abartı yaptığını” öne sürdü ve bunun yerine tutuklamaların kaçının mahkemede karara bağlanmasıyla karşılaştırılarak hesaplanması gerektiğini belirtti.
“Hatalı oranın ne olduğunu ancak 122 kişinin mahkemede yargılanmasının ardından bileceğiz,” dedi.
after newsletter promotion
“Tutuklanan 122 kişinin yarısı… karara bağlanmazsa, ‘hatalı’ oran %50 olurdu,” dedi ve polisin neredeyse 1.4 milyon taramayı “hiçbir şekilde makul şüphe olmaksızın” gerçekleştirdiğini söyledi.
Deneme duyurulduğunda, eyletin bağımsız gizlilik denetçisi olan Office of the Information Commissioner WA (OIC WA), denemeye uygulanmasında yer almadığını belirterek bir açıklamada “kolektif gizlilik zararları” konusunda uyardı. OIC WA’dan yorum istendi.
Polisin gözetim araçları şimdi deneme değerlendirilirken halka açık kullanımdan kaldırıldı. Photograph: Aaron Bunch/AAP
Pazar günü Blanch, denemenin “büyük çoğunluğun günlük hayatlarına herhangi bir etkisi olmadan, risk taşıyan kişileri belirlemek için modern teknolojinin sorumlu biçimde kullanılmasına odaklandığını” söyledi.
Deneme kuralları altında, işaretli araçlara monte edilen veya yakınlarına yerleştirilen kameralar, belirlenen halka açık alanlardaki yüzleri, polis veri tabanlarından oluşturulan bir uyarı listesiyle eşleştirerek tarama yapıyordu. Polis, listede olmayan kişilerin görüntülerinin gerçek zamanlı olarak piksellenmesini ve saklanmadan anında silinmesini belirtti.
Deneme başlangıcında gizlilik ve algoritmik önyargı kaygıları nedeniyle tepki çekmişti. Uzmanlar, teknolojinin zaten polis izleme listelerinde aşırı temsil edilen marjinalleştirilmiş grupları orantısız biçimde etkileyebileğini; yüz tanıma algoritmalarının tarihsel olarak daha koyu tenli kişiler için daha yüksek yanlış eşleşme oranına sahip olduğunu söylüyor.
Gözetim araçları şimdi, gücün teknolojinin sahada nasıl işlediğine ve topluluk üzerindeki etkilerine, “güvenlik önlemlerini gözden geçirme ve tüm gereksinimlerin karşılanıp karşılanmadığı” konularını içeren dahili bir değerlendirmeyi yürütürken, halka açık konuşlandırmadan kaldırıldı.
- Batı Avustralya
- Australian police and policing
- Facial recognition
- AI (artificial intelligence)
- news
Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔
