Avustralya’nın Victoria eyaletinde seçimlere aylar kala, seçmenler henüz yaşanmamış olayları içeren görüntülerle karşı karşıya. Petrol istasyonunda yaşanan bir çakmaklı saldırı, yol kenarında doğum yapan bir kadın ve parlamento basamaklarından taşan sel suları… Bunların hepsi yapay zeka (YZ) kullanılarak üretilmiş “derin sahtekârlık” (deepfake) içerikler ve seçmenlerin sandığa gitmeden önce reklam olarak sunulduğu iddia ediliyor. Araştırmacılar, bu sahte içeriklere en kolay düşen kesimi ortaya çıkarmak için kapsamlı bir çalışma yürütüyor.
Bir zamanlar Avustralya politikası için potansiyel bir “uyuyan sorun” olarak tanımlanan deepfake politik içerikler, hızla çok gerçek bir seçim zorluğuna dönüşüyor. Bu bağlamda siyasi deepfakede ve insanların buna verdiği tepkilere odaklanan araştırmacıların ilk bulguları, seçmenlerin derin sahtekârlıkları ayırt etme becerisi hakkında önemli ipuçları veriyor ve kampanya döneminin kızışmasıyla birlikte giderek karmaşıklaşan bilgi ortamında seçmenlere yol göstermeyi hedefliyor.
Bu etki ne kadar büyük olabilir?
Derin sahtekârlıklar bir zamanlar ikna edici şekilde üretmek için uzman teknik beceri ve yazılıma ihtiyaç duyuyordu. Bugün ise ticari ve açık kaynaklı yapay zeka araçlarını kullanan herkes bunları üretebiliyor ve giderek ayırt edilmesi daha da zorlaşıyor. Araştırmacılar, siyasi deepfakede hakkında daha iyi fikir edinmek ve yaklaşan seçimler için bunun ne anlama gelebileceğini anlamak amacıyla 2018 ile 2026 yılları arasında yayımlanan önceki çalışmaların bulgularını bir araya getiren bir meta-analiz gerçekleştirdi.
19 çalışma ve 24.000’den fazla insan üzerinde yürütülen ve henüz yayımlanmayan bulgular, derin sahtekârlıkların özgün görüntüler ve geleneksel yanıltıcı bilgiler dahil olmak üzere diğer siyasi içerikler kadar ikna edici görünebileceğini ortaya koydu. Aynı zamanda deepfakede’nin haberlere ve demokratik kurumlara olan güvensizlikle ilişkilendirildiği, insanların yalnızca neyin sahte olduğunu değil, neyin gerçek olduğunu bile sorgulamaya başlamasına yol açabileceği tespit edildi; bu durum demokratik güvensizliği dolaylı olarak zedeliyor.
Daha geniş bir düzeyde bu belirsizlik, “yalancının dividend’i” (liar’s dividend) olarak adlandırılan olguya katkıda bulunabiliyor. Bu olgu, bireylerin özgün içerikleri sahte olarak reddetmesi durumu olarak tanımlanıyor.
Gerçek olanı reddetmek
Araştırmacıların 411 Avustralyalı ile yürüttüğü bir deneyde katılımcılar özgün bir siyasi videoyu, düşük kaliteli bir deepfake’i veya yüksek kaliteli bir deepfake’i görüntüledi. İlk bulgular endişe verici işaretler taşıyor.
Daha fazla haber tüketen kişiler, düşük kaliteli deepfakede’leri ayırt etmede başarılı olurken, sofistike olanları ayırt etmede aynı başarıyı gösteremedi. Daha çarpıcı bir bulgu ise haber tüketiminin artmasıyla birlikte insanların özgün içerikleri tanıma doğruluğunun azalmasıydı.
Örneklemimizin yaklaşık %75’i, yüksek veya kaliteli olsun derin sahtekârlıkları doğru şekilde tanıyabiliyor. Ancak bu, derin sahtekârlıkları doğru şekilde tanıyamayan veya özgünlükleri konusunda kararsız kalan yaklaşık dörtte bir kişiyi hala yanında getiriyor. Daha da büyük endişe verici olanı ise katılımcıların neredeyse %29’u gerçek videoyu sahte olarak etiketledi, buna ek olarak %18’i kararsız kaldı.
Düşünüldüğünde katılımcıların neredeyse yarısı, özgün siyasi içeriği gerçek olarak güvenle ve doğru şekilde tanıyamadı. Yani tehlike, yalnızca seçmenlerin sahte içeriklere inanma riskinden ibaret değil; aynı zamanda gerçek içeriklere karşı da hızlıca kuşku duymaya başlamalarından kaynaklanıyor.
Bir deepfake’i ayırt etmek kimlere daha kolay? Durum karmaşık
Bazı insanların diğerlerinden daha kolay derin sahtekârlıklara yakalanması muhtemel. Önceki araştırmalar, politik derin sahtekârlıkları ayırt etme becerisinin yaşla azaldığını gösteriyor; bu durum, önemli ölçüde yaşlı seçmen kitlesi bulunan Avustralya için özellikle önem taşıyor.
Siyasi yönelim de önemli olabilir. Amerika Birleşik Devletleri’nden gelen araştırmalar, sol eğilimli bireylerin politik derin sahtekârlıkları ayırt etmede başarılı olabileceğini gösteriyor. Araştırmacıların deneyden elde ettiği ilk bulgular ise önemli bir nüans ekliyor: Farklar yalnızca deepfake’in, izleyicinin kendi siyasi yönelimiyle uyumlu bir siyasi aktörü canlandırması durumunda ortaya çıkıyor.
Örneğin, bir İşçi Partisi (Labor) seçmenisiyseniz, güncel Başbakan’ın derin sahtekârlık olduğunu ayırt etme olasılığınız daha yüksektir. Bu da hassasiyetin yalnızca bir kişinin siyasetinden çok, kimin canlandırıldığından ve izleyiciyle siyasi uyumundan kaynaklanabileceğini düşündürüyor.
Kendine emin olmak, doğru olmak anlamına gelmiyor
Özgüvenin deepfakede tespitiindeki rolüne ilişkin araştırmalar karışık bir tablo sunuyor. Bazı çalışmalar, daha yüksek özgüvenin insanların deepfakede’leri tanımasına yardımcı olabileceğini öne sürerken, diğerleri özgüvenin doğru tanımla neredeyse ilişkisi olmadığını buluyor.
Son bulgular bu alana yeni bir katman ekliyor. Moderat ve daha yüksek tüketici arasında özgüven, doğruluktan giderek kopuyordu. Bu katılımcılar siyasi içeriği değerlendirme konusunda kendilerini yeterli hissetmiş olabilir, ancak bu özgüven doğru yapma becerisine dönüşmüyordu.
Bu nedenle bir içeriğin yapay zeka tarafından üretildiğine dair emin olmak, bunun gerçekten böyle olduğuna dair kanıt değildir. Özgüven hatta bir zayıflığa dönüşebilir. Bu durum, tek bir videoyun doğru şekilde sınıflandırılması konusunun ötesinde bir öneme sahip. Seçmenler, içerik YZ tarafından üretilmiş olabilmesi nedeniyle özgün kanıtlara karşı giderek kuşku duymaya başlarsa, deepfakede’ler varlıklarında bile güvensizliği zedelebilir.
Bir politik deepfake’i nasıl ayırt edersiniz?
Derin sahtekârlığı ayırt etmenin kesin bir yolu yok. YZ geliştikçe seçmenler, bir şeyin “sahte görünüp görünmediğine” değil, kaynağını ve destekleyici kanıtları doğrulamaya daha fazla güvenmeli. Öncelikle görünüme güvenmeyin; görsel veya işitsel kusaklar zayıf deepfakede’leri ortaya çıkarabilir, ancak bu işaretler giderek daha az güvenilir hale geliyor.
İkinci olarak kaynağı izleyin. İçeriğin nereden geldiğini bulun ve kaynağın güvenilir olup olmadığını değerlendirin. Üçüncü olarak diğer kanıtları kontrol edin. İçeriği doğrlayan bağımsız haber kaynaklarını veya resmi kurumları arayın. Dördüncü olarak özgüveninizi sorgulayın; bir şeyin sahte olduğuna emin olmak, doğru olduğunuz anlamına gelmiyor. Son olarak da yaymayın; bir içeriğin gerçek olup olmadığını sormak için paylaşmaktan kaçının, önce doğrulayın.
Siyasi deepfakede’ler giderek sofistikleşirken, görsel kusakları ayırt etmek de giderek daha da zorlaşacak. Bu nedenle seçmenler için değişen zorluk, gördüklerimizi otomatik olarak inkâr etmeden sorgulamayı öğrenmek. Giderek ikna edici hale gelen bir YZ çağında sağlıklı kuşku önemli, ancak bu kuşkunun nereye kadar gitmesi gerektiğini bilmek de o kadar önemli.
