Yapay zekanın insanlığa yönelik potansiyel varoluşsal tehdidi, yapay zeka şirketi Anthropic’ten ayrılacak bir güvenlik araştırmacısının sosyal medyada paylaştığı görüşlerle gündemin en üstüne çıktı. Araştırmacı, ölüm riskinin yüzde ondan daha yüksek olabileceğine dair kanaatini dile getirdiği açıklamayla dikkat çekerken, teknolojinin on yıl içinde insanlığın yok oluşuna yol açacak kadar gelişmiş ve tehlikeli hale gelebileceğini savunan Anthropic çevreleri de bu görüşlere destek verdi.
Bu tartışmalar, Turing Ödülü sahibi bilgisayar bilimcisi Yoshua Bengio’nun geçen yıl boyunca giderek otonomlaşan yapay zeka sistemlerinin insanları kolayca kapatılamayacak şekilde kendilerini koruma amaçları geliştirebileceğini savunan uyarılarının ardından geldi. Mevcut gelişme aşırı zeki bir yapay zeka ya da genel yapay zeka düzeyine ulaşmasa bile, teknolojinin kötü niyetli aktörler tarafından zararlı amaçlara yönelik kullanılabileceğine dair birçok uyarı yer alıyor.
Korku Üstüne Kurulan Yasa
Bilim insanları, yapay zekanın giderek hızlanan gelişiminin bu kadar kritik bir alanda dikkatli yaklaşım gerektirdiğini vurgularken, bazı şüpheciler ise son iddiaların yüksek derecede spekülasyon içerdiğini savunuyor. Buna rağmen, üstel bir tempo ile ilerleyen bir teknolojiye karşı tedbir ilkesinin uygulanması için hala geçerli gerekçeler mevcut.
Bu bağlamda özellikle dikkat çeken nokta, yapay zekanın Amerika Birleşik Devletleri ve Çin arasında büyüyen rekabetin merkezine yerleşmesi. Geçmiş uzay ve nükleer yarışlarına benzer şekilde her iki süper gücün geride kalmaktan korkması, herhangi bir sınırlama biçimini artık bir erdemden çok stratejik bir risk haline getiriyor.
Eğer hızlanan yapay zeka gelişimi nükleer silahlar kadar varoluşsal bir risk oluşturuyorsa – ve bugün bu teknolojiyi geliştiren yeterli sayıda insan bunun olabileceğini söylüyorsa – umut, Washington’un ve Pekin’in konuyu eskiden nükleer silahlara uyguladıkları ciddiyetle ele almaktır.
Bu tartışmalara katkıda bulunan güvenlik araştırmacısı
İşte bu yaklaşım, soğuk savaşın erken aşamasında nükleer silahların nasıl bir yasa dışılık tabusuna dönüştüğünü anlamak açısından anlamlı. Kore Savaşı’nın ilk yılında Çin’in Kuzey Kore‘nin yanına geçmesiyle ABD’nin birkaç kritik yenilgisinin ardından, General Douglas MacArthur ve Dışişleri Bakanı John Foster Dulles gibi önde gelen askeri figürler nükleer silahları kontrolü yeniden ele almak için bir araç olarak görüyordu.
Fakat daha sakin zihinlerin söz sahibi olmasıyla bu tabu zamanla inşa edildi. Ancak silahların meşru bir seçenek olarak görülmesi, nükleer silahlara yönelik denetimin göreceli biçimde yeni olduğunu gösteriyor. Sovyetler Birliği’nin 1949’daki ilk atom testinden sonra 1950’lerde termonükleer silah geliştirmesiyle teknoloji açığını kapatması, iki tarafın zihniyetinde bir değişimin başlamasına yol açtı.
Denge Süreci ve Anlaşmalar
Sadece her iki güç de kaybedecek bir şey olduğunda nükleer silahlar savaşma araçlarından çok caydırıcılık aracı olarak görilmeye başlandı. 1962’de yaşanan Küba Füzesi Krizi, dünyanın nükleer bir Armageddon’a en yakın olduğu an olarak hatırlanırken, her iki tarafın da uçak, denizaltı ve balistik füze içeren nükleer “üçlü” kapasitelerini geliştirmesi, Washington’un ve Moskova’nın silahları nasıl düşündüğüne dair bir dönüm noktası oluşturdu.
1963’te kurulan Moskova-Washington doğrudan iletişim hattının hayata geçmesi ve imzalanan Sınırlı Nükleer Test Yasaklaşma Anlaşması, “dönüş” olarak adlandırılan bir jeopolitik sakinlik döneminin kapısını araladı. 1970’te yürürlüğe giren Nükleer Silahlara Karşı Yayılmanın Önlenmesi Anlaşması ise tam da mükemmel olmamasına rağmen, uluslararası işbirliğinin kritik bir konuda mümkün olabileceğini gösterdi.
Bu anlaşma Washington ve Moskova arasındaki rekabeti sona erdirmese de Vietnam’dan Afganistan’a uzanan vekâlet savaşlarını durdurmasa da, doğrudan süper güç çatışmasının – dolayısıyla nükleer bir yükseliş riskinin – her iki tarafın da çaba sarf etmeye çalıştığı bir şey haline geldi.
Birincil nükleer çağdan çıkarılacak ders şudur: hatta en acı rakipler bile, paylaşılan riskin açıkça ortada olduğu anda ortak bir anlayışa ulaşabildikleridir.
Anlaşmaların tarihine dikkat çeken uzman
Kaygılanılacak olan ise, nükleer yayılma yasaklaşmasına rağmen kaçak nükleer güçlerin ortaya çıkması ve ABD, Çin ile Rusya arasındaki yoğunlaşan rekabetin bu çerçevelerin kademeli biçimde aşınmasına yol açmasıdır. Buna benzer şekilde yapay zeka alanında da tam bir mutabakatın sağlanmaması, anlaşmazlıkların sürmesi ve düzenlemelerin zamanında değil bir krizden sonra gelmesinin daha sorumlu bir yol olmayacağı gerçeğiyle karşı karşıya kalınıyor.
Pek çok analist, bu tartışmaların yapay zeka güvenliğinde dikkatli yaklaşımın gerekliliğini pekiştirirken, teknolojinin potansiyel tehdidinin tamamen dağılacağını iddia etmiyor. Aksine, krizden sonra değil daha erken bir aşamada oraya ulaşmanın bu sefer için daha sorumlu bir yol olduğuna işaret eden sesler giderek artıyor.
Bir yanıt yazın