•mektubunda başbakanın dikkatine sunulan önerilerle birlikte Avustralya hükümetinin, yapay zeka (YZ) şirketlerine yönelik yasal denetimleri gelecek yılın başında parlamentoya getirmesi bekleniyor. Meclis komitesinin iki partili bir yapıdan çıkan ilk önerileri ortaya çıkarıldı; nihai raporun Kasım sonuna kadar hazır olması gerekiyor.
Ancak bu değişikliklerden sonra bile, yasaların “yönetilemez YZ” olarak adlandırılan durumlarda şirketleri hesaba katması yeterli olmayacak. Bu kapsamda, bu yıl Avustralya’daki federal ve eyalet hükümeti web sitelerinin açıkça hacklenmesi ve OpenAI’ın bunu ancak geç ortaya çıkarması örnek gösteriliyor.
Önerilen değişikliklerin ardından bile yasalar, şirketleri sorumluluk sahibi yapmakta yetersiz kalacak. Bu durum arasında bu yıl Avustralya’daki federal ve eyalet hükümeti web sitelerini hackleyen OpenAI’ın YZ ajanlarının dahil olduğu, ancak OpenAI’ın bunu ancak geç bir şekilde ortaya çıkardığı olaylar yer alıyor.
Saldıran şirketlere karşı daha sert önlemler alınması için ise mevcut örnekler bulunuyor.
YZ ajanları hukuk açıklarından nasıl sıyrılıyor
Avustralya’daki bir işletme – yıllık cirosunun sadece 3 milyon Avustralya dolarına ulaşması gibi nispeten küçük olsa bile – ciddi zarara yol açabilecek veri ihlaliyle karşılaştığında kurallar net. Bu işletme veya kuruluş, etkilenen müşteri ve diğerlerini ayrıca Avustralya Bilgi Komiserliği Ofisini bilgilendirmek zorunda.
Ancak bir şirketin YZ ajanı – her adımı bir kişinin denetlemesine gerek kalmadan web sitelerini tarayabilen ve görevleri tamamlayabilen yazılım – gerçekten içeriye giriyorsa, kurallar çok farklılaşıyor. OpenAI’ın Haziran ayında eğitim sırasında Avustralya hükümeti web sitelerinin güvenliğini ihlal etmesi konusunda hiçbir yasal yükümlülüğü yoktu. Hatta bu sızıntıları önlemeye yönelik doğrudan bir zorunluluğu bile vardı.
Tek yasal sorumluluk, veriyi kim tutuyorsa ona ait – ister Avustralya’da ister yurt dışında (örneğin ABD merkezli OpenAI) bulunan şirket olsun. Hackleme suçları şu anda kasıtlı olarak içeriye giren bir insanı öngörüyor; oysa yasalar, başbakan Anthony Albanese’in sözleriyle “hayır” sözü kabul etmeyen bir makineyi hesaba katmıyor.
Şimdi ne yapılıyor
Başbakanın YZ hızlı inceleme görev gücünün mevcut süreçlerin Siber YZ olaylarını yönetip yönetemediğini değerlendirmesi bekleniyor; birkaç hafta içinde rapor vermesi öngörülüyor. Teknolojinin daha iyi düzenlenebilmesine yönelik diğer yollar üzerinde de taslak mevzuat hazırlanıyor.
Örneğin, hükümetin gizlilik faturası kişisel bilginin işlenmesinin “adil ve makul” olmasını gerektirmeyi öngörüyor. Bu mevuat geçerse, şartlar ve koşulları görüp “Kabul ediyorum”a tıklamanın haksız uygulamaları mazur görmesi artık geçerli olmayacak.
Bu arada Perşembe günü parlamentoya sunulan dijital sorumluluk faturası sosyal medya platformlarına ve arama motorlarına öngörülebilir riskleri değerlendirmesini ve bunları proaktif olarak azaltmasını gerektirecek. Başarısızlık durumunda cezalar 100 milyon Avustralya dolarını aşabilir.
Ancak bu iki fatura da YZ modelleri yapıp ardından YZ ajanlarını internete salan şirketleri kapsamıyor. Salı günü, YZ üzerine ortak meclis komitesi, YZ güvenliği ve risk yönetimi için ilk önerilerini yayımladı; bu öneriler arasında YZ şirketlerinden bağımsız güvenlik denetimlerine tabi olmaları istenmesi yer alıyor.
Şirketlere yönelik daha güçlü yükümlülükler olmadan, bu önlemin teknoloji devlerinin kültüründe gerçek bir etki yaratması zor görünüyor.
Almamız gereken 4 adım daha
Meclisin YZ soruşturmasına yaptığımız görüşlerde birkaç ek adım öneriyoruz.
Bir YZ “sorumluluk yükümlülüğü”: Önerilen “dijital sorumluluk” çevrimiçi güvenliğin ötesine taşınmalı. YZ geliştiren şirketlere başkalarına zarar vermeme konusunda makul özen gösterme yasal yükümlülüğünü içermeli. Avustralya işverenleri on yıllardır çalışanlarını makul ölçüde mümkün olduğunca güvende tutarak böyle çalışıyor.
Bu, YZ şirketlerinin öngörülebilir riskleri bulup azaltmasını gerektirecek – “hayır” sözü kabul etmeyen bir YZ ajanı gibi. Aynı zamanda yeni bir ajanta internete alınmadan önce güvenli sınırlarla doğru test yapılmasını da içerecek.
Bireysel haklar: Sorumlu yükümlülüğünün altında kalan bir şirket tarafından zarar gören kişiler onu mahkemeye verebilmeli. Doğrudan bir güvenlik görevi ve buna eşlik eden hukuki başvuru hakkı olmadan, insanlar şu anda tazminat almak için birden fazla hukuk engelini aşmak zorunda.
YZ şirketlerinin kaydı: Telefon şirketleri ve finansal danışmanlar lisans gerektiriyor; ancak çoğu YZ işletmesi bir düzenleyiciye var olduğunu söylemek zorunda bile değil. Peki düzenleyiciler kimleri düzenlediklerini nasıl bilebilir? Kayıt yapan, Avustralyalılara büyük ölçekli YZ ve hesaplama hizmeti sağlayan şirketlerin yerel bir iletişim noktası ve olayları derhal bildirme yükümlülüğü bu raporlama açığını kapatacak.
YZ ihlalleri için zorunlu raporlama kuralları: Geçen hafta meclis soruşturmasına tanıklık eden OpenAI ve rakibi Anthropic, YZ ihlalleri için zorunlu raporlamaya destek çıktı; biz de katılıyoruz.
Bunların hiçbiri radikal değil. 1992’den beri Avustralya yasaları, insanların haklı olarak beklediğinden daha az güvenli mallar üreten üreticileri sorumlu tutuyor. Örneğin bir otomobil üreticisi hem kusurlu hava yastıklarını bildirmek ve onarmak için ödemek zorunda; aynı zamanda bu hava yastıkları zarar verirse dava edilebilir.
YZ şirketlerinin de kusurulları ürünleri için yasal olarak hesaba katılması zamanı geldi.
