Avustralya, sohbet robotları (chatbot) ve tamamlayıcı yapay zeka uygulamalarının getirdiği gizlilik risklerini düzenlemek için iki ayrı yasal reform paketi üzerinde düşünüyor. Yapılan araştırmalar, kullanıcıların kişisel düşüncelerini bu araçlara aktardığını, ancak paylaştıkları bilgilerin başkaları adına da sistemlere girebileceğini ortaya koyuyor. Uzmanlar, gizlilik ve dijital sorumluluk alanlarında yapılacak düzenlemelerin detaylarına göre gerçekten işe yarayıp yaramayacağını vurguluyor.
Geleneksel anlamda çevrimiçi gizlilik, paylaştıklarınızı ne kadar dikkatli seçtiğinizle ilgiliydi. Aynı zamanda başkalarının sizin hakkınızda ne paylaşacağı konusunda da bir kontrole sahiptiniz; çünkü bu bilgiler çoğu zaman kamodaydı ve bir arkadaşınızdan Facebook’taki rahatsız edici fotoğrafı kaldırmasını isteyebilirdiniz. Ancak sohbet robotlarının yaygınlaşmasıyla bu denge değişti.
Gizli alan algısı, rızasız bilgi paylaşımını tetikliyor
Durum yalnızca ChatGPT, Gemini veya Claude gibi bilinen ürünlerle sınırlı değil. Birçok sohbet robotu ve tamamlayıcı yapay zeka uygulaması artık geçmiş etkileşimleri hatırlayabiliyor, yanıtları kişiselleştirebiliyor, insancıl sesler ve karakterler kullanabiliyor hatta iletişimi başlatabiliyor. İşini kolaylaştıran aynı özellikler, gizlilik rızası açısından da sorun yaratıyor.
YouGov’un yeni araştırmasına göre Avustralya’daki yetişkinlerin yüzde 15’i bir sohbet robotuna kişisel düşüncelerini veya duygularını paylaştığını, yüzde 11’i ise daha önce hiçbirine anlatmadığı bir konuyu açtığını belirtiyor. Bu eğilim genç kullanıcılar arasında çok daha belirgin.
Avustralya eSafety Komisyonu’nun verilerine göre, 10 ile 17 yaş arasındaki çocukların yüzde 54’ü kişisel veya sosyal tavsiye için, üçte biri ise hayat tavsiyesi için sohbet robotu kullanıyor. Yapay zeka sohbet pencereleri kullanıcılarına gizli bir alan hissi verdiği için insanlar ayrıca başkaları hakkında da bilgi paylaşıyor; bazen bu bilgiler mahrem detaylar oluyor ve kişiler bunun farkında olmadan ya da rızası dışında paylaşılıyor.
Bir iş arkadaşınız, bir sorunu çözmek için size ait bir e-postayı ChatGPT’ye yapıştırabilir. Bir arkadaşınız hafta sonu planları yapmak için mesaj ekran görüntülerinizi yükleyebilir. Eşiniz en son tartışmanızı anlatabilir. Ebeveyniniz ise sağlık veya finansal endişelerinizi paylaşabilir. Siz bunlardan haberdar bile olmayabilirsiniz.
Rahatsız edici olan, kullanıcı olmayan insanlar hakkında bilgilerinin bu sistemlere girebiliyor olması. Sohbet robotlarıyla etkileşime girmemiş kişiler dahi milyarlarca günlük etkileşim aracılığıyla bu yapay zeka sistemlerine giriş yapıyor ve ne kadarının orada olduğunu bilme imkanı yok.
İki ayrı yasal reform paketi
Sorun yalnızca yapay zeka şirketlerinin sizin hakkında bilgi sahibi olması değil; bu bilgilerin kapalı kapılar ardında ne yapmak için kullanılabileceği. Bilgiler yapay zeka modellerini eğitmek, kişiselleştirmek, profillemek veya reklam vermek amacıyla yeniden kullanılabilir.
Mahrem bilgiler insanları etkilemek için kullanılabilir; potansiyel olarak zararlı reklamlar yönlendirmekten siyasi ikna etmeye ya da aşırıcı inançları pekiştirmeye kadar uzanabiliyor. Bu nedenle Avustralya, sohbet robotlarıyla ilgili gizlilik risklerini düzenlemek—including kullanıcı olmayanlar için de dahil olmak üzere – iki ayrı yasal reform paketini görüşüyor.
Önerilen gizlilik reformları, kişisel bilgilerinin adil ve makul şekilde ele alınmasını gerektirecek ve bir “silme hakkı” getirecek. Buna göre büyük dijital platformların, bireylerin isteği üzerine kişisel bilgileri yok etmesi istenecek.
Bu arada, Çevrimiçi Güvenlik Kanonu’na (Online Safety Act) getirilen ek düzenleme olan önerilen “dijital sorumluluk” yükümlülüğü, çevrimiçi hizmetlerin tasarım ve operasyonlarından kaynaklanan öngörülebilir riskleri değerlendirmelerini ve yönetmelerini gerektirecek.
Bu iki öneri bir araya geldiğinde birçok konuda haklı bir zemine oturuyor. Gizlilik reformu kullanıcı olmayanlar hakkındaki bilgileri korurken, dijital sorumluluk yükümlülüğü sohbet robotlarının tasarım ve işletim biçiminden kaynaklanan zararları ele alabiliyor.
Silme hakkını nasıl kullanırsınız, kimin ne hakkında bilgi sahibi olduğunu bilmiyorsanız? Yasal gerekliliklerin gerçekten hayata geçmesini sağlamak için belirli önlemlere ihtiyacımız var.
Gizlilik düzenlemeleri üzerine uzman görüşü
Yasaların işe yaması için yol haritası
İlk olarak gizlilik sohbete dahil edilmeli, ayarlara gömülmemeli. Sohbet yapay zekası gereksiz hassas bilgileri fark edip kaldırabilecek şekilde tasarlanabilir; bu sırada kullanıcının istediği görevi yerine getirmeye devam ederken gereksiz veriyi silebilir.
Bunu başaracak teknik araçlar mevcut olduğundan, sohbet robotu sağlayıcılarının kullanıcılar ve üçüncü kişiler hakkında gereksiz bilgileri tespit edip silmeleri gerekecek. Aynı zamanda kullanıcıların depolanmış bilgileri kolayca gözden geçirmesi ve silebilmesi sağlanmalı.
İkinci olarak, bir soruyu yanıtlamak için kişisel bilgi kullanmak, bu bilginin süresiz kullanımına boş çek verilmesi anlamına gelmemeli. Yapay zeka anlık isteği cevaplamak için başka biri hakkında bilgi gerektirebilir; ancak bunu eğitim, profilleme, hedefleme, reklam veya alakasız kişiselleştirme için saklamayı meşrulaştıramaz.
Üçüncüsü, silme işlemi bir hesap sahibi olmak şartına bağlanmamalı. Sağlayıcılar, insanların sistemde hakkında hangi bilginin tutulduğunu öğrenmesi ve silme talep etmesi için pratik yollar sunmalı.
Bu arada bu tür bildirimlerin aynı zamanda güvenli olması gerekiyor. Tartışmaya dahil olan herkesi otomatik olarak uyarmak; ev içi şiddet, baskılı kontrol, ifşa (whistleblowing) veya gizli konular hakkında yardım arayan birini ortaya çıkarabilir. Önerilen dijital sorumluluk yükümlülüğü, platformların bu öngörülebilir riskleri yönetmesini gerektirebilir.
Şeffaflık anahtar nokta
Son olarak, yapay zeka şirketlerinin sözüne güvenmek zorunda değiliz. Bu araçları kimin hakkında hangi bilgiyi tespit ettiklerini, tuttuklarını ve yeniden kullandıklarını açık şekilde yaymalı; ayrıca koruyucuların gerçekten işe yarayı-yaramadığına dair bağımsız testler ve halka açık raporlarla desteklenmelidir.
Bu özellikle sağlayıcıların etkileşim, abonelik, profilleme ve reklamdan kâr elde ettiği durumlarda önem taşıyor. Avustralya’nın önerdiği dijital sorumluluk yükümlülüğü, eSafety Komisyonu’na bağımsız araştırmacılara böyle bir erişim sağlayan kurallar koyma imkanı verecek. Bu kuralların ne kadar iyi işe yarayacağı detaylara bağlı olacak.
Bunların hiçbiri sohbet yapay zekasının yasaklanmasını ya da insanların hayatlarından bahsetmesinin engellenmesini gerektirmiyor. Yapılması gereken, sorumluluğu yukarıya, yani bu araçların sağlayıcılarına taşımak.
İnsanlar, kendilerini çevreleyen herkes için yarattığı gizlilik riskleriyle uğraşmak zorunda kalmadan sohbet yapay zekasını kullanabilmeli. Bu sistemleri kontrol eden ve bundan kâr eden şirketlerin, böyle riskleri başkalarının sorunu gibi görmesine izin verilemez.
