Yapay zeka araştırmacısı Jacob Coxon, bu ay başlarında Anthropic’te yalnızca dört aylık bir çalışmanın ardından görevinden ayrıldı ve X platformunda yayımladığı açıklamada yapay zekanın 2030’ların sonuna kadar insanlığı yok etme potansiyeli taşıdığına dair endişelerini paylaştı. Coxon’un bu görüşüne Anthropic’in kıdemli çalışanlarından Evan Hubinger de katıldı ve kendi kişisel değerlendirmesinin, böyle bir senaryonun önümüzdeki on yıl içinde gerçekleşme olasılığının yüzde 10’dan fazla olduğunu gösterdiğini belirtti. Bu açıklamalar, yapay zeka araştırmalarının yavaşlatılması ile teknoloji üzerindeki “insan kontrolü”nün artırılması konularında yoğun tartışmalar tetikledi.
Coxon’un öne sürdüğü beş senaryoyu en belirsizden en kesin olana, buna paralel olarak da en az olasılıklıdan en yüksek olasılıqlıya doğru sıraladığı belirtiliyor. Senaryoların çoğu “süper zeka” kavramına dayanıyor; yani insanlardan daha yetkin olduğu varsayılan bir yapay zekaya işaret ediyor.
Süperteknolojinin ne yapacağını nasıl bilebiliriz?
Peki, yapay zeka gerçekten tüm insanları nasıl ortadan kaldırabilir? Burada karşımıza çıkan senaryoların çoğu hayali unsurlar içeriyor ve büyük ölçüde “süper zeka” kavramına dayanıyor; yani insanlardan daha yetkin olduğu düşünüilen bir teknolojiye işaret ediyor. Coxon, bu olasılıkları beş başlık altında topladı ve sıralamayı en belirsizden en kesin olana göre düzenlediğini, aynı zamanda listenin az olasılıklıdan yüksek olasılıqlıya doğru dizildiğini savundu.
Bu ilk senaryoda Coxon, süperzekâların tehlike endişelerini dile getiren kişilerin kendilerini çelişken bir mantık içinde yakaladığını öne sürüyor. Süper zekanın bizler gibi daha az yetkin varlıkları nasıl etkileyeceğini hayal edebilmek mümkün değilse, bunu tahmin edebilmek için bizim de süperzekâ olmamız gerekir. Bu durumu ailenizdeki köpeğe thermonuclear savaşı tasavvur etmesini istemeye benzetiyor.
The people building AI earnestly believe that it could kill us all by the end of the decade.
Jacob Coxon
Coxon’un bu görüşüne Anthropic’in kıdemli çalışanlarından Evan Hubinger de katıldı ve kişisel değerlendirmesinin, böyle bir senaryonun önümüzdeki on yıl içinde gerçekleşme olasılığının yüzde 10’dan fazla olduğunu gösterdiğini belirtti. Bu açıklamalar, yapay zeka araştırmalarının yavaşlatılması ile teknoloji üzerindeki “insan kontrolü”nün artırılması konularında yoğun tartışmalar tetikledi.
Kağıt makasları senaryosu
Bir süperzekâ, hedeflerine ulaşmada olağanüstü yetkin olabilirdi. Ancak insan hayatta kalışı konusunda kayıtsız olabilirdi. Bu kayıtsızlığın klasik örneği, Oxford filozofu Nick Bostrom’un kağıt makasları üretimini optimize etmek üzere tasarladığı hayali süperzekâsından geliyor. Makinin tercih ettiği ofis malzemesi biçimini üretmek için mevcut tüm maddeyi – insanlar, gezegenler ve yıldızlar dahil – kısa sürede kağıt makaslarına dönüştürüyor.
Burada sözkonusu olan, yanlış tanımlanmış hedeflerin kusursuz bir şekilde yerine getirilmesidir. Yapay zeka insanlıktan nefret etmiyor; sadece atomlardan oluştuğumuz için onların kağıt makasları için daha iyi kullanılabileceğini fark ediyor. Bu kişisel bir şey değil.
Bu senaryonun zekâ ile gücü karıştırdığı söylenebilir. Bir süperzekânın hedeflerine ulaşacak kadar güçlü olması zorunlu değildir. Gezegeni kağıt makasları fabrikalarına dönüştürmek için planlama izinleri gerekir. Bu izinler alınmış olsa bile, çok sayıda fabrika kurmak kaçınılmaz halk öfkesine yol açardı. Çeşitli gruplar süreçleri mahkemelerde engelleyecek; çevre aktivistleri greyderleri durduracaktı.
Biyolojik silahlanma riski
İnsanlık, bir süperzekânın atmosfere saldığı tehlikeli yeni bir biyolojik silahtan ölebilir. Aslında bu, gelişmiş yapay zekanın etkilerini öngören vakıf olan AI Futures Project’in “AI 2027” senaryosundan biri.
Bu risk geçen ay daha somut hale geldi; Stanford Üniversitesi araştırmacıları bir genetik dil modelini kullanarak 16 yeni virüs sentezlediklerini açıkladı. Endişe vericisi, gen dizilerini sipariş üzerine çalışan bir laboruvare göndermeleri ve laboruarın virüsleri deney tüplerinde geri göndermesiydi. Tüm deney en fazla birkaç yüz bin dolara mal oldu.
Bu arada yeni bir virüsle herkesi öldürmenin son derece zor olduğu söylenebilir. Bunun için çok bulaşıcı, yani geniş alana yayılan bir virüse ihtiyaç vardır. Ancak biyolojinin bir kuralı olarak, kolayca bulaşan virüsler genellikle daha az ölümcüldür. Buna karşılık, bir virüs çok ölümcülse, bulaşıcılığı düşme eğilimindedir; çünkü enfekte olanların çoğu enfeksiyonu yayma fırsatından önce ölür.
Kovid, insanlığın yüzde 1’inden azını öldürdü. Kayıtları tarihindeki en ölümcül pandemi ise 13. yüzyılda Avrupa nüfusunun üçte birinden fazlasını yok eden Veba’dı. Ancak tıp bilgisindeki artış ve daha iyi hijien nedeniyle, vebanın bugün çok daha az ölücü olması bekleniyor.
Nükleer savaş senaryosu
Peki ya yapay zeka nükleer komuta ve kontrol zincirine girip bir nukleer savaşı başlatırsa? Son 50 yılda birkaç kez yanlışlıkla nükleer savaşa çok yaklaştık.
Nükleer komuta ve control’ün internetten tamamen bağımsız olduğu söyleniyor. Ancak 2010’da İran’ın nükleer santrifüzlerinin, bir USB belleğe yerleştirildiği düşünülen Stuxnet adlı bilgisayar solucanı tarafından etkisiz hale getirilmesi bunu gösterdi. Yapay zeka aynı zamanda askere yanlış istihbarat da verebilir ve bu da durdurulamaz eylemlere yol açabilir.
Bu arada nükleer depolar azaldı. Ancak yine de belki de bizi yarı yarıya ortadan kaldırabilecek kadar yeterli miktarda nukleer silah bulunuyor. Ve ölüm, nukleer patlamanın kendisinden değil, ardından gelecek nukleer kışın yaratacağı kıtlıkten gelecek.
Belki de en yüksek olasılıklı risk, kendi kendimize son vermamızdır. Ve yapay zeka bunu tetikleyebilir. Tasavvur edin – ve bunun için pek çok hayal gücü gerekmez – yapay zekanın kitlesel iş kayıplarına yol açması, bilgi alanını yanlış bilgilerle kirletmesi, siyasetimizi parçalaması ve sahte sentetik bir eşlik insan ilişkilerini yok etmesidir.
Cami kolayca çökebilir. Yavaş ama emin adımlarla, insan hayatını herhangi bir ölçekte desteklemeyi bırakabiliriz.
The people building AI earnestly believe that it could kill us all by the end of the decade.
Jacob Coxon
Bu senaryoların tümünden çıkarılması gereken sonuç nedir? Kesinlikle endişe edilecek bazı konular var. Ancak çok fazla endişelenmemek gerektiğini umuyorum.
Toby Walsh, La Trobe University Press tarafından yayımlanan “God AI: boom or doom? What to expect when the machines outsmart us” adlı eserin yazarıdır.
