Yapay Zeka Riskinde Yeni Zelanda’nın Yol Haritası: Uygulanabilir Bir Strateji İçin Üç Temel Prensip Öne sürüldü

Yapay zekanın insanlığın kendi yarattığı, hatta yaratıcılarını bile geride bırakabilecek güce ulaşabileceği uyarıları giderek yaygınlaştıkça küresel düzeyde teknolojinin denetimi için çağrılar yükseliyor. Ancak bu çağrıların merkezinde yer alan Yeni Zelanda, küresel yapay zeka endüstrisinin üç büyük aktörü olan ABD, Çin ve kendisini bir araya getiren girişime katılmayı reddediyor. Birleşmiş Milletler Genel Kurulu’nda toplanan 20 ülke arasında yer alan Avustralya ve Kanada da bu denetim talebini desteklerken, Yeni Zelanda’nın yaklaşımı, sorumluluk açısından ciddi bir soru işareti olarak öne çıkıyor.

Uzmanlar, endüstrinin hızla artan yatırımlarının, etik, ekonomi, eşitlik ve güvenlik gibi derin soruları gündeme getirdiğini belirtiyor. Yapay zekanın potansiyel felaket senaryolarını uyduranlar ile daha sakin bir seyir beklentisi taşıyanlar arasında görüş ayrılıkları olsa da, sektörün bu yıl tek başına 1 trilyon doların üzerinde yatırıma ulaşması bekleniyor. Bu optimist tablo, hem hükümetin yeni yasalar getirmeyi hedeflemeyen “hafif dokunuş” denetim anlayışında hem de Yeni Zelanda’nın küresel sorumluluklı yapay zeka endeksinde 45 yüksek gelirli ülke arasında 32. sırada yer almasında yansıyor.

Önlemci Yaklaşımın Savunulması

Yeni Zelanda’nın politikalarını şekillendiren en temel öneri, çoğu OECD ülkesinde de geçerli olan önlemci ilkeyi esas alan bir duruşu savunmak. Bu ilkeye göre, eylemsizliğin risk taşıyabileceğini gösteren güvenilir kaynaklar mevcut olduğunda, potansiyel zarara karşı önleyici tedbirler alınması meşru sayılır. Bilimsel belirsizlik ya da anında görülebilecek olumsuz etkilerin olmaması, yeşil bir ışık değil, sarı bir ışık anlamına gelmelidir.

Bu çerçevede, yeni bir teknolojiyi geliştirenlerin, zorunlu ön dağıtım testleri ve bağımsız değerlendirme süreçleriyle teknolojinin güvenli olduğunu kanıtlayana kadar yük, onları taşımak zorundadır. Makul bir şüphe söz konusu olduğunda, bir teknolojinin güvenli olduğu gösterilene kadar geliştirilmesinin durdurulması, varsayılan konum olmalıdır.

Bilimsel belirsizlik ya da anında görülebilecek olumsuz etkilerin olmaması, yeşil bir ışık değil, sarı bir ışık anlamına gelmelidir. Kanıt, teknolojiyi geliştirenlerin üzerine düşmelidir.

Konunun İncelenmesi İçin Birleşmiş Milletler Bağımsız Uluslararası Bilimsel Paneli’nin ön raporu

Panelin hazırladığı ön raporda, “hızla gelişen yetenekler ile etkili risk yönetimi yöntemleri arasındaki uçurum, felaket sonuçlarına yol açabilir” uyarısı yer alıyor. Bu tespit, önlemci yaklaşımın gerekçesini güçlendiren somut bir referans niteliğinde.

Bilimsel Diplomasi

Uluslararası politikaları hız ve ölçekte ileri taşıyacak yeterli kapsamlı bir hükümet desteğine sahip olmadığı göz önüne alındığında, Birleşmiş Milletler’in yapay zeka panelinin tek başına yeterli görülmemesi tartışılıyor. İklim değişikliğinde benzer bir rol üstlenen Hükümetler Arası İklim Değişikliği Paneli’ne benzer bir model, daha koordineli bilimsel tavsiyelerin üretilmesini sağlayabilir ve daha büyük, daha kapsayıcı bir yapı sunabilir.

Klim değişikliğinde olduğu gibi, kontrolsüz yapay zeka gelişiminin etrafındaki risklerin etrafında yalnızca yetkili, şeffaf veriler ve ortak bir anlayış, siyasi uzlaşı kurma gerçekçi bir şans sunmaktadır. Bu yaklaşım, bilimsel diplomasi yoluyla uluslararası iş birliğini güçlendirmeyi hedefliyor.

En Büyük Risklere Öncelik Verme

Etikten eşitliğe uzanan tüm alanlarda yeni çerçeveler kurulabilir. Ancak en yüksek öncelik, en büyük risklerle bağlantılı olan konulara verilmeli: savaş ve çatışma, biyolojik tehlikeler ve küresel finans sistemleri. Bu alanda yol çizen örnekler zaten mevcut; geçen yıl, nükleer silahların komuta, kontrol ve iletişim sistemlerine entegrasyonun “olası riskleri” ele alan Birleşmiş Milletler kararının en belirgin örneği sayılabilir.

Yeni Zelanda’nın dış politikası, ayrıca yapay zekanın biyolojik silahlar Sözleşmesi’nin etkinliğini sağlamak için gerekli yeni protokolun bir parçası olarak mevcut sözleşmenin doğrulamasının iyileştirilmesinde olumlu bir kullanım için çağrı yapabilir. Kasım ayında, Belirli Geleneksel Silahlar Sözleşmesi’nin gözden geçirileceği toplantıda, savaş hukuku ve geleneksel silahların uyması gereken anlamlı insan kontrolü, hesap verebilirlik ve uyum bağlayıcı bir protokol için de fırsat bulunuyor.

Savaş ve çatışma, biyolojik tehlikeler ve küresel finans sistemleri en büyük risklerle bağlantılı olduğundan, en yüksek öncelik bu alanlara verilmelidir.

Yeni Zelanda için önerilen strateji çerçevesi

Kısa süre önce ABD ve Çin yetkilileri, ciddi yapay zeka tehditleri hakkında bilgi paylaşımı için yeni bir mekanizmayı önerdi. Böyle bir gelişme, olumlu bir ilk adım olarak karşılanacektir. Sadece askeri alanda değil, yapay zeka ile bağlantılı siber saldırılarla başlatılabilecek savaşları da kapsayan uluslararası hukuk ve protokoller acil dikkat gerektiriyor.

Son olarak, askeri tatbikatlar ve savaş oyunlarının kontrolü dışına kaçma riski artarken, Yeni Zelanda jeopolitik rakipler arasındaki çatışmaları yatıştırmaya yönelik güven artırıcı önlemleri teşvik edebilir. Bu alanda da yeni bir örnek oluşuyor: ABD ve Çin yetkililerinin yalnızca son dönemde ciddi yapay zeka tehditleri hakkında bilgi paylaşımı için yeni bir mekanizma önermesi, olumlu bir ilk adım olarak değerlendirilmelidir.