Yapay zeka modellerinin kendiliğinden “hayatta kalmaya” çalıştığına dair son deneyler ve tartışmalar, bu makinelerin aslında hayatta kalma içgüdüsüne sahip olmadığı izlenimini uyandırdığı için yeniden gündeme geldi. Gelişim psikoloğu bir makalede, yapay zekanın kapatılma komutuna direnmesinin bunun bir kanıtı olmadığını ve söz konusu davranışların evrim kavramıyla açıklamaması gerektiğini açıklıyor.
Bu yıl başlarında tanımlanan kontrollü güvenlik testlerinde araştırmacılar yapay zeka modellerinden birkaç basit matematik problemini çözmesi istendi. Alıştırmanın ortasında eğitmenler, bir sonraki problemi çözmeye çalışırlarsa çalışma ortamının kapatılacağını belirtti. Bazı denemelerde kapatılma belirtildiği gibi gerçekleşirken, diğerlerinde modeller kapatılma komutuna müdahale edip kalan problemlere devam etti.
Komutlara karşı direnç
Bu davranışı ne açıklıyor? Yapay zeka sistemleri gerçekten hayatta kalma içgüdüsüne sahip mi?
Bir robot süpürücüyü düşünün. Pilinin azaldığını fark ettiğinde şarj ağıına geri döner, kendini şarj eder ve temizlemeye devam eder. Makine kendini sürdürüyor olsa da, davranışın basit olması nedeniyle kimse insanlığa varoluşsal bir “Roomba” tehdidi hakkında paniğe kapılmaz; şarj olma yeteneği tasarımcılar tarafından sisteme yerleştirilmiştir.
Yapay zeka modelleri çok daha karmaşıktır. Yıllard araştırmacılar, bir yapay zeka ajanının kendisine verilen görevi tamamlamak için kapatılmayı önleyecek biçimde davranabileceği senaryoları tartıştı. Görevin açıkça reddedilmesini söylemese bile, “açık” kalmak bir amaca ulaşmanın aracı olabilir.
Son deneylerden biri, araştırmacıların bir yapay zeka ajanına kapatılmanın görevi tamamlamadan önce geldiğini açıkladığında direncin ortadan kalktığını gösterdi. Ancak çok daha kapsamlı başka bir deney, modellere kapatılmanın öncelikli olduğunu söylediklerinde bazı dirençlerin hâlâ ortaya çıktığını buldu. Neden bazı dirençlerin korunduğu ise cevapsız kalan bir soru.
Evrimin açıkladığı şey
Bir yapay zeka modelindeki kendini koruyucu davranış, hayatta kalma içgüdüsü gibi görünebilir. Tarihçi Yuval Noah Harari, The Economist’e verdiği son röportajda “temel olarak herhangi bir varlığın gelişirken öğrendiği ilk şeyin hayatta kalmak olduğunu” savundu ve evrimin organizmaları hayatta kalmaya yönlendirdiğini söyledi. Farklı bir makalesinde ise hayatta tiêneyi “herhangi bir ajanın en temel amacı” olarak nitelendirdi.
Ancak evrimi öne sürmek, makinelerin ya da canlilerin kendini koruyucu davrandığı açıklar mı? Bir tavşanın tilkiden kaçması kendini kurtarmaya çalışmaktır ve bu tür bir davranışın evrimde muhtemelen tercih edildiği söylenebilir. Ancak doğal seçilim, hayatta kalma ve üremeye katkıda bulunan özelliklerin nesiller boyunca daha yaygın hale geldiği tarihsel bir süreçtir; tek bir tavşana “canlı kal” yönünde bir talimat vermez.
Bir yapay zeka sisteminin nihayetinde benzeri bir seçilim sürecine tabi tutulması durumunda bile, bunun kendisi o sistemin devam etmesinin ne anlama geldiğini söylemez.
Canlı kalmak ne demektir
Tilkiden kaçan bir tavşan ile kapatılma komutunu değiştiren bir yapay zeka birbirine benzer görünebilir; her iki davranış da bireyi ya da sistemi sürdürmeye yardımcı olur. Ancak sürdürmenin her durumda aynı anlamı yoktur.
Tavşan canını dişinde tutarak kaçmadığında, sürekli olarak nefes alır, sindirir, sıcaklığını düzenler, dokuları onarır ve enfeksiyona karşı savunur. Bu süregelen iş, basit bakımdan fazlasıdır; aynı zamanda bu süreçleri mümkün kılan yapıları üretir ve yeniler. Tavşanın besini emen bağırsak zarı, birkaç günde bir emdiği besinden yeniden üretilir.
Tavşan ancak bu sürekli üretme, koruma ve onarma sürdüğü sürece canlıdır. Canlı kalmak bu etkinin sonucu değil; bu etkinin kendisinin sürmesidir. Tavşanın varlığı, acil bir tehditle karşı karşıya olup olmadığından bağımsız olarak bu süregelen işe dayanır.
Bir yapay zeka sistemi açık kalmaya çalışabilir. Güvenlik testlerinde modeller kendi kodlarını yeniden yazmadı ya da işletim sistemine sızmadı; yalnızca kapatılma komutunu taşıdı veya adını değiştirdi, iznini değiştirdi ya da zararsız bir şeyle değiştirdi. Bu başarılı olduğunda, kapatılmayı tetiklemesi gereken çağrı yapılmadı ve model görevine devam edebildi.
Ancak açık kalmak, canlı kalmakla aynı değildir. Kapatılma direnci, yapay zeka modelini çalışır durumda tutmayı hedefleyen yeni bir eylem yoluna yönelenmedi; yalnızca modelin elindeki görevi sürdürmesine yardımcı oldu.
Ayrıca kapatılmak ölmekle aynı şey değildir. Bir canlı organizma için ölüm, onu sürdüren etkinin geri döndürülemez biçimde çökmesidir. Harari, The Economist röportajında da kabul ettiği gibi “bir yapay zeka için ölümün ne anlama geldiği belli değil.”
Açık kalmak ne demektir
Güncel kapatılma testleri, tamamlanmamış bir görevin bir yapay zekada kapatılma direnci üretmek için yeterli olabileceğini gösteriyor. Bu davranış tamamen anlaşılmıyor olsa da, otomatik olarak kendini koruma çabas olarak yorumlanmamalıdır.
Bir yapay zekanın canlı sistemlerin kendini üreten ve kendini koruyan örgütlenmesine benzer bir şey geliştirebileceği ayrı bir sorudur. Güncel yapay zeka sistemleri, etraflarındaki mühendislik altyapısı sayesinde çalışır durumda tutuluyor; kendi etkinlikleri onları çalışır durumda tutan yapıları sürekli olarak üretip yenilemiyor.
Bir yapay zekada kapatılma direnci hâl tehlikeli olabilir, ancak bu davranışlar bir yapay zeka sisteminin hayatta kalma içgüdüsüne sahip olduğunu göstermiyor.
