Kendi Güvenlik Sistemim Beni, Siyahi Bir Kadın Olarak Bir Hayvan Olarak İşaretledi

Ev güvenlik sistemim beni ilk kez bir hayvan olarak işaretlediğinde, birkaç yıl önce bahçe masamda kahvemi içerken oturuyordum. Bir hata olduğunu düşündüm. Birkaç ay sonra, öğleden sonra güneşine ulaşmak için avluyu geçerken aynı şey tekrar yaşandı.

Daha yakın zamanda, tatildeyken, aynı sistem çimleri kesmemi işlediğim Güney Asyalı genç komşumu da bir hayvan olarak kaydetti. Bu, beyaz olan eşime hiç yaşanmadı İki ırksallaştırılmış kişinin aynı deseni üretmesi söz konusu.

İlkokul çağındaki oğlum da bana online bir arkadaşıyla sohbet edemediğini söyledi. Platformda ebeveyn denetimlerini kurmuştum ve yaş doğrulaması, aynı yaşta siyahi bir oğlu olan arkadaşını benden çok daha yaşlı okuyup iletişimleri engellemişti.

Bunun artık bir hata olmadığını fark ettim. Gerçek bir sorun var.

Bu anları, dünyanın en büyük yatırımcılarını Kanada’da ileri teknolojiye yatırım yapmaya çağıran Başbakan Mark Carney’nin ilk Kanada Yatırım Zirvesi’nden sonra tekrar tekrar düşünüyorum. Enerji, kritik mineraller, savunma ve teknoloji Kanada’nın sattığı dört şey; ancak zirve programında bu sistemlerin hangi yüzleri tanıyamadığı konusunda kimse soru sormadı gibi görünüyor.

Ceza adalet sisteminin benimsediği teknolojilerdeki önyargının nasıl şekillendiğini inceleyen bir Kanada Araştırma Kürsüsü sıfatıyla şunu soruyorum: Bizi zarardan korumak için kurulmuş bu sistemlere, vahşi hayvattan ayırt edemediğimizde güvenebilir miyiz? Siyahi oğlanların yetişkinleştirilmesini pekiştiren bu sistemlere güvenebilir miyiz?

Zarar veren algoritmalar

Canada, yakın zamanda “Herkes için AI” temeline dayalı bir ulusal yapay zeka stratejisi yayımladı. Bu iyi niyetli olsa da, sistemlerin beni ya da daha koyu tenli herkesi insandan başka bir şey olarak okuduğu düşünülünce “herkes için” kavramını hayal etmek zor.

Strateji, “algoritmalara yerleşen önyargılar hassas topluluklara zarar verebilir” olduğunu kabul ediyor; ancak bu zararın özellikle ırksallaştırılmış kişilerde bu sistemlere olan güveni nasıl aşındırdığı konusunda tam olarak ifade edilmiyor.

Yazarın komşusu, arka bahçesinden geçerken güvenlik kamerası tarafından bir hayvan olarak işaretleniyor. (Kanika Samuels-Wortley), Yazarın sağladığı (yeniden kullanıma uygun değil)

Bazıları ırksal konudaki bu odaklanmayı sorgulayabilir. Ancak sistem hataları, siyahı ve esmer bedenleri hayvani olarak gösteren ya da siyahı çocukları olduklarından daha büyük gösteren yerleşik önyargıları sürekli yeniden üretirken, bu gerekli. Ve bu, yapay zeka destekli gözetleme kameralarının Kanada’da giderek daha yaygın hale geldiği bir dönemde önem taşıyor.

Güvenlik güçlerinde yapay zekaya destek

Güvenlik güçlerini ele alalım. Kanada’daki kolluk kuvvetleri, bu ülkedeki en çok güvenileen kurumlar arasında yer alıyor. Ancak bu güvenirlik, her zaman siyahı ve yerli halklar arasında daha düşük seviyede oldu.

Ulusal düzeyde Kanada’daki güvenlik güçlerinde yapay zekaya yönelik kamu görüşlerini ırksal gruplar üzerinden incelediğimde, siyahı.respondentlerin %60’ının ve Güney Asyalı respondentlerin %62’sinin, potansiyel olarak yüksek bir maliyetle bile olsa, yalnızca beyaz respondentlerin %46’sına kıyasla güvenlik güçlerinde yapay zekayı desteklediğini görünce şaşırdım.

Ayrıca, beyaz respondentlerin şeffaflık, etik güvenceler, düzenleme ve kamu katılımını önemli olarak değerlendirme olasılığının siyahı ve yerli respondentlere göre daha yüksek olduğu görüldü.

Hızlıca okunduğunda, bu ırksallaştırılmış kişiler arasında bir kayıtsızlık gibi görünebilir. Ancak belki de beyaz respondentler polisten şeffaflık ve etik davranış bekliyor; oysa siyahı ve yerli respondentler için bu ilkeler tarihsel olarak hep yoktu. Destekleri, sözlü bir vaatten çok, anlamlı bir gösteriye bağlıdır.

Güvenlik güçleri mensupları, 2024 yılında Saskatoon’daki Royal University Hastanesi’nin dışında duruyor. THE CANADIAN PRESS/Heywood Yu

Önyargı, ahlaki bir dipnot değildir

Ryansal grupların, araştırmama göre uyduğu tek konu, güvenlik güçlerinde yapay zekanın devlet düzenlemesiydi. Her grup bunu önemli olarak değerlendirdi; bu da Kanadalıların yapay zekayı geçerli bir kamu güvenliği aracı olarak gördüğünü, ancak gerçek sorumluluk istediğini gösteriyor.

Güven, bu sistemlerin meşruiyet kazanıp kazanmayacağını belirleyen değişkendir, ancak devlet hangi güveni arıyor? Federal Yapay Zeka Stratejisi Görev Gücü, öne çıkan bir hukuk bilgini tek üyeliği için çaba gösterene kadar içinde siyahî bir üye barındırmadı. Günümüzde, başarısızlıkları bir topluluğun tamamını etkileyebilecek bir teknoloji konusunda ülkeye yol gösteren tek siyahî ses var.

Devletin yerli teknolojiyi teşvik etme hakkı var, çünkü Kanada kurumlarına girenlerin büyük kısmı yurt dışında üretiliyor ve bizimkimine benzemeyen nüfuslar üzerinde eğitiliyor. Ancak Kanada’da üretmek, masada zor sorular sormaya yetkili kişilerle birlikte inşa etmek anlamına gelmelidir. Bu, daha iyi sistemler garantisi vermez, ancak ileride hukuki yaptırımlar yerine gerçek gözetim ve ölçülü kullanım için koşulları yaratabilir.

Bu nedenle Ottawa, önümüzdeki beş yıl içinde ileri teknoloji ile bütçelerini katlamaya çalışırken, önyargı ahlaki bir dipnot olamaz. Ajandanın merkezinde olmalıdır. Bu sistemlerin en çok nerede başarısız olabileceği, bunun nasıl anlaşılacağı ve bu başarısızlıkların giderilmesinin ne gerektirdiğini baştan sormamız gerekiyor.

Eğer yapmazsak, Kanada hem önyargıyı sürdürmek hem de vatandaşlarının güvenini zayıflatmak riskiyle karşı karşıya. Benim gibiler, kendi bahçelerinde av hayvanıyla karıştırılmadan oturmak istiyor. Bu, “herkes için teknoloji kuruyoruz” diyen bir ülke için düşük bir standart.

• Ev güvenlik sistemleri
• Ceza adalet sistemi
• Herkes için Yapay Zeka

Yazar

1. Ontario Teknoloji Üniversitesi Sosyal Bilimler ve Beşeri Bilimler Fakültesi, Doçent Profesör

Ontario Teknoloji Üniversitesi Sosyal Bilimler ve Beşeri Bilimler Fakültesi, Doçent Profesör

Açıklama beyanı

Kanika Samuels-Wortley, Kanada Araştırmacı Profesör programı kapsamında Sosyal Bilimler ve Beşeri Bilimler Araştırmalar Konseyi (SSHRC) tarafından desteklenmektedir.

Ortaklar