•Farklı muamelelere maruz kalan tüketicilerin, insan tavsiyesi yerine yapay zeka destekli önerilere yönelme eğiliminde olduğu ortaya çıktı. Araştırmacılar, bu tercihin arkasında yatan temel duygunun utanc olduğunu ve sistemin “tarafsız” görülmesinin rol oynadığını belirtiyor.
Bir markette 20 euro bütçeyle, gluten hassasiyeti olan bir misafir için ne pişirileceği gibi sıradan bir karar bile aslında şunu gündeme getiriyor: Öneri karşıısında insana mı yoksa yapay zekaya mı güvenmeliyiz?
Son yıllarda alınan araştırmalar, insanların genellikle insanları tercih ettiğini gösteriyor. Algoritmalara duyulan bu güvensizliğe “algoritma soğukluğu” deniliyor ve sistemler nesnel olarak daha iyi performans gösterse bile yaygın biçimde gözlemlenmiş bir durum.
Ancak bu tutum evrensel değil. Araştırmacıların yaptığı çalışma, ayrımcılığa maruz kalan tüketicilerin özellikle kamusal alanlarda yaşanan ayrımcılıktan sonra, ayrımcılıktan tamamen bağımsız bir konuda bile yapay zeka önerilerine yöneldiğini ortaya koyuyor.
Bu değişimin ardındaki duygunun utanc olduğu belirtiliyor. İnsanlar sosyal olarak yargılanıyor veya haksız muamele görüyor gibi hissettiğinde, “tarafsız ve önyargısız” kabul edilen sistemlere sığınıyor. Araştırmacıların deneylerinde ayrımcılığa maruz kalan katılımcılar daha yüksek utanc seviyesi raporladı ve bu duygu sonraki tercihlerini doğrudan etkiledi. Ne kadar çok utanç hissedilirse, o kadar az insan etkileşimi arandı.
İnsanlara kıyasla algoritmik sistemlerin daha tarafsız, nesnel ve önyargıdan uzak görüldüğü vurgulanıyor. Oysa gerçeklik daha karmaşık: Algoritmalar kendilerine aktarılan veri ve eğitim biçimine bağlı olarak önyargılı olabilir; ancak birçok kişi onları yine de tarafsız kabul ediyor. Bu bağlamda önemli olan algının kendisi.
Araştırmacılar, etkinin özellikle kamusal ortamlarda, seçimlerin başkaları tarafından görüldüğü durumlarda daha belirgin olduğunu; özel kararlar verildiğinde ise yapay zekaya yönelimin ciddi biçimde azaldığını tespit etti.
Alan çalışması yöntemi
Araştırmacıların gerçek koşullarda yürüttükleri bir çalışma kapsamında, üniversite kampüsünde “ajan” olarak görev yapan kişiler (araştırma ekibi üyeleri) neredeyse aynı soru formuyla kredi başvurularını değerlendirdi. Formlardan biri, katılımcıdan ten rengini kendisinin değerlendirmeğini isteyen ekstra bir soru içeriyordu; bu unsur tasarım gereği ayrımcılık hissi uyandıracak şekilde eklenmişti.
Başvuru sahiplerinin hepsi sonrasında reddedildi ve ten rengine dair sorulan kişi, ayrımcılığa uğradığını hissettiğini belirtti. Daha sonra yapılan takipte tüm katılımcılara bir değerlendirici ile yapay zeka değerlendiricisi arasında seçim hakkı verildi. İlk aşamada ayrımcılığa maruz kaldıklarını hissedenlerin, hissetmeyenlere göre ikinci aşamada anlamlı ölçüde daha fazlası yapay zekaya başvurdu.
İşletmeler için çıkarımlar
Bulguların, otomatikleştirilmiş sistemlerin benimsenmesinin yalnızca verimlilik veya performans kaygılarıyla değil, geçmiş sosyal deneyimler biçimlendirdiği psikolojik ihtiyaçlarla da yönlendirildiğini düşündürüyor. Etkileşimlerin hassas algılanabileceği bankacılık, sağlık veya müşteri hizmetleri gibi sektörlerde yapay zeka tabanlı alternatifler bazı tüketicilerin daha rahat hissetmesine yardımcı olabilir.
Bununla birlikte önemli bir uyarı da var: Yapay zeka sistemlerinin kendisi önyargılıysa — önyangılı verilerle eğitilmiş veya eşitsizliğe önem verilmeden tasarlanmışsa — tüketicilerin kaçmaya çalıştığı ayrımcılığı yeniden üretme, hatta artırma riski taşıyor. Bu tür ayrımcılık çoğu zaman gizli ve tespit edilmesi zor olduğu için fark edilmiyor. Yapay zekanın “güvenli” bir alternatif olarak yaygınlaşması ancak bu güvenliğin gerçekten var olması durumunda anlamlı oluyor; yalnızca algılanan bir güvenlik değilse.
