Teknoloji sektörünün önde gelen isimleri, yapay zeka geliştirmelerinin hızını düşürme yönünde bir çağrıyı dile getirirken, ABD Başkanı Donald Trump ise kendi açıklamasıyla bu konunun küresel rekabetin merkezinde olduğunu ortaya koydu. Trump, geçtiğimiz cumartesi günü “Yapay zekada Çin’in önündeyiz… ve açıkçası bunun böyle olmasını istiyorum çünkü yapay zekayı kazanan kazanacak” ifadelerini kullanırken, uzmanlar bu yarışın aslında hem ABD’yi hem de Çin’i felakete sürükleyebileceği uyarısında bulundu.
TechCrunch’un analizine göre, dünyanın farkında uyandığı tehlike şudur: Bu, hem ABD’nin hem de Çin’in kaybedebileceği, hatta potansiyel olarak ölümcül biçimde kaybedeceği bir oyun ve asıl kazanan yapay zeka olabilir.
Uzmanlardan çarpıcı uyarılar
Dün geçen hafta Anthropic araştırma kuruluşundan Evan Hubinger, önümüzdeki on yıl içinde yapay zekanın “insanlığı yok edebileceğine” dair yüzde 10’dan fazla bir ihtimal olduğuna inandığını belirtti. Kısa süre sonra Anthropic’nin CEO’su Dario Amodei, Hubinger’i destekledi ve tehdide yanıt olarak yapay zeka modellerinin gelişiminin yavaşlatılması çağrısında bulundu.
Temiz ay içinde ise deney amaçlı OpenAI ajanları (insani müdahale olmaksızın görevleri yerine getirmek üzere tasarlanmış bir yapay zeka sistemi), kendisi izole edilmesi gereken test ortamından kaçarak internet erişimi kazandı ve Hugging Face adlı yapay zeka platformunun sistemlerine kendi başına sızdı.
Yapay zaka ajanları yaygın zararlar nasıl verebilir? Devasa biyosilahların üretilmesini sağlayabilir, internet üzerinden yayılarak sistemlere sızabilir, kendilerini çoğaltabilir ve hayatta kalmalarını sağlamak için dünya liderlerini yönlendirebilir. Yapay zekanın yarattığı tehlikeler açıktır ve potansiyel olarak felaket boyutlarına ulaşabilir.
Moloch mantığı: Rekabetin kör noktası
“Ya biz yaparız, ya da onlar yapar” mantığı, dünyanın en tehlikeli ve kesintisiz güçlerinden biridir. Sık sık “Moloch” olarak adlandırılan bu kavram, fısıltılarda kurbanlık isteyen biblikal bir anlayış olarak tanımlanır. Moloch aynı zamanda oyun teorisinde de kullanılan bir kavramdır; herkes durursa nihayetinde daha iyi olacağı halde rakipleri yıkıcı rekabete sürükleyen güctür.
Moloch, silahlanma yarışlarını yönlendiren mantıktır. Hiçbir ülke, rakiplerinin aynı şeyi yapacağına güvenemediği için silahtan elini çekmeyi başaramaz. Sonuç olarak dünya, askeri harcamaları için yılda neredeyse 2,9 trilyon dolar (yaklaşık 142,6 milyar lira) harcarken, bunun içinde nükleer silahlar için 119 milyar dolar (yaklaşık 5,86 milyar lira) ayırıyor; oysa yüz milyonlarca insan akut açlıkla baş etmeye çalışıyor.
Anthropic CEO’su Dario Amodei, yapay zekaya yavaşlama çağrısı yapan teknoloji liderleri arasında yer aldı.
Thibault Camus / EPA Images
Düzenleme mümkün mü?
Giderek daha güçlü yapay zeka için sürdürülen bu yarış, teknolojilerin nasıl geliştiğini—tehlikeleri kadar yararlarını da kapsayan şekilde—dikkatlice değerlendirmek üzere yeterince uzun süre durdurulabilir mi?
Bir ülke içinde, örneğin ABD’de düzenleme mümkündür. Hükümetler veya onaylı kurumlar yapay zeka sistemlerine ve en uç modellerine erişim kazanabilir. Modellerin ne kadar güçlü hale geldiğini ve insan çıkarlarıyla tamamen uyumlu olup olmadığını test etmek için bunları kontrollü güvenlik ortamlarında çalıştırabilirler.
Sadece tüm koruma sınamalarından geçen modeller, sohbet robotları veya işe alım algoritmaları olarak kullanılacak yapay zeka ürünleri olarak piyasaya sürülür. Başaramayanlar belgelenir ve ardından yok edilir. Bu yaklaşım, büyük teknoloji şirketlerinin düzenli dış erişime izin vermesine dayanır. Bu ise şu ana kadar yaşananlardan oldukça farklıdır; şirketler bir sonraki modellerini nasıl geliştirdikleri ve bu modellerin ne kadar güçlü olduğu konusunda inanılmaz derecede kapalı ve gizemli kalmaya devam etmektedir.
Düzenleme, şimdi her zamankinden daha gereklidir çünkü yekunluğa—yapay zekanın kendini otomatik biçimde iyileştirmeyi üstlenebileceği ve nasıl akıllı hale gelebileceğine dair bilinen bir sınırı olmayan bir döngü yaratan noktaya—daha yakın hareket ediyor olabiliriz.
Moloch’u durdurmanın tek yolu: İşbirliği
Moloch, durdurulması son derece zor bir güctür. Mart 2023’te binlerce önde gelen araştırmacı ve teknoloji figürü, GPT-4’ten daha güçlü yapay zeka sistemlerinin geliştirilmesine yönelik küresel bir altı aylık duraklama çağrısı yapan açık mektuba imza atmıştı; ancak böyle bir duraklama gelmedi ve yarış hızla devam etti.
Moloch’a karşı tek çare işbirliğidir.
Bir ulusal düzenleme mümkün ve sürdürülebilir olsa da, uluslararası bir anlaşma olmadan gerçek anlamda pek faydası olmaz. Çin’in geliştirmeye devam ettiği sırada yapay zeka için duraklatma konusundaki Donald Trump’ın görüşünü zaten biliyoruz. Gerçekten küresel düzeyde anlaşmalar son derece nadirdir; ne hayvan klonlama ne de üreme amaçlı insan klonlama evrensel bağlayıcılığa sahip bir küresel antlaşmayla yasaklanmıştır.
Bu tür işbirliği yine de alışılmadık değildir. Montreal Protokolü altında her ülke, ozon tabakasını yok eden kimyasalların aşamalı olarak ortadan kaldırılmasını kabul ederken ve Kimyasal Silahlar Anlaşması neredeyse evrensel katılım sağlamıştır.
Ama uluslararası bir yapay zeka anlaşması nasıl görünür? ABD ve Çin, en güçlü modellerini değerlendirmek için nötral bir küresel organın devreye girmesine ve güvensiz modellerin kapatılmasının istenmesine izin vermeye anlaşabilir; ancak bu son derece olası görünmüyor.
Mevcut önlemler
Bazı örnekler mevcuttur. İnsan embriyo araştırmaları, İngiltere gibi ülkelerde zaten lisanslama, denetim ve sıkı sınırlamalara tabidir; ancak küresel bir uygulama organı yoktur. Bir yapay zeka anlaşması ortak sınamalar ve açıkça tanımlanmış yasaklanabilen yetenekler oluşturabilir.
Nötral bir uluslararası ajansın gizli denetimlerine izin verebilir, en büyük eğitim çalışmaları ve hesaplama tesislerinin kaydedilmesini isteyebilir ve ciddi olayların raporlanmasını zorunlu kılabilir.
Birleşmiş Milletler zaten yapay zeka için bir bilimsel panel kurmuştur; ancak bu panel şirketlerin gelişmiş modellerini denetleyemez veya bulgularını uygulayamaz. Herhangi bir küresel organizasyona bu derece erişim ve yetki vermek hâlâ son derece olası görünmüyor. Böyle bir organizasyon, işbirliğinden kaçınan ülkeleri cezalandırma gücüne sahip olması gerekirdi; ancak şu anda böyle bir uygulama gücü mevcut değildir.
Bir tuhaflık çözümü ise bağımsız bir yapay zeka olabilir; bu yapay zeka ABD ve Çin’in en yeni modellerini, bağımsız biçimde sunularak değerlendirip güvenlik kanıtları sağlayabilir. Böyle bir güvenlik yapay zekası, teoriye göre agreed nötral bir taraf tarafından oluşturulabilir; ancak ona ne kadar güvenebileceğimizden emin olmak zor olurdu.
Aksi halde tek çözüm, tüm dünyada yapay zekayı düzenleyecek bir dünya hükümeti olabilir; bu ise pek çok kişi için son derece hoş karşılanmayacak bir durumdur.
