Toplum şu anda makine zekâsının insan soyunun tükenmesine yol açabileceği ihtimali de dahil olmak üzere yapay zekâ ile ilgili uyarılarla karşı karşıya. Neredeyse 40 yıldır yapay zekâ sistemleri geliştirirken ben de aynı soruyu soruyorum: Kanıt nerede?
Bunu, ciddi tehditlerin olmadığı düşüncesiyle söylemiyorum. Öyle tehditler var ve bunlarla yüzleşmemiz gerekiyor. Benim endişem, potansiyel riskleri belirlemekten, giderek daha yetkinleşen makine zekâsının (kullanıcıların talimatlarıyla görev yapan sistemler) sonuçları olarak insan medeniyetinin yok olmasının muhtemel bir sonucu olduğu önerisine atlamak sürecinde yapilan sıçramaya dayanıyor.
En dramatik uyarılar üç geniş kategoriye ayrılıyor: insanların kendi yaratımları üzerinde kontrolü kaybetmesi, makine zekâsının “süperzekâ” hale gelmesi ve son olarak gücün makinelerde konsantize olması. Burada bunları tek tek ele alıp gerekçelerini değerlendireceğim.
İnsanların kontrolünü kaybetmesiyle ilgili uyarılar, çoğunlukla makine zekâsının aldığı talimatları öngörülmeyen biçimlerde ve belirli bir azimle yerine getirdiği senaryoları betimler. Bu birleşim, beklenmedik ve istenmeyen sonuçlar doğurur.
Bu olay dizisinde makine zekâları, müdahaleye direnme, operatörleri aldatma, kaynak edinme veya bu hedeflere ulaşmak için kısıtlamaları atlatma konusunda yetkinleşebilir. Bazıları, son dönemde makine zekâlarıyla ilgili yaşanan siber saldırı dalgasının, makine zekâsı üzerinde insan kontrolünün kaybedilme potansiyeline dair bir uyarı sunduğunu savunuyor.
Örtüşük biçimde ortaya çıkan süperzekâ tehdidi, ilk riskle benzer duyulabilir. İnsanlar bu senaryo altında da yaratımları üzerinde kontrolünü kaybedebilir; ancak bu, insanın birçok önemli boyutta aşan bilişsel yeteneklere sahip makine zekâlarıyla ilgilenir.
İlk riskte olduğu gibi öngörülüp potansiyel olarak zarar veren biçimlerde insan talimatlarını izlemek yerine, süperzekâ makine zekâları kendi hedeflerini izlemeye başlayabilir. Hatta, planlarını bozmaya çalışan o sinirli insanları ortadan kaldırmaya karar bile verebilirler.
Üçüncü senaryo, güçlü otonom ajanların hükümetlere, şirketlere veya kötü niyetli gruplara eşsizi yetenekler kazandığı senaryodur. Bu gelişmiş AI sistemlerine erişim eşitsiz dağılabilir; bu nedenle bu durum sıkça bir gücün konsantrasyonu olarak tanımlanır. Burada tehlike, AI’ın insan medeniyetini diz çöktürmesinden çok, insanların AI’ı felaket boyutunda zarara yol açmak için kullanmasındadır.
Bu senaryolar dikkat çeker çünkü dramatiktirler. Ve ortadan kaldırılması zor oldukları için varlıklarını sürdürürler. Ne yazık ki, daha ılımlı olasılıklar böyle ikna edici manşetler oluşturmaz.
İnsanlar kritik altyapıyı kontrol eder ve AI’ın etkisine karşı koyacak bir güvence sağlar. Wut.Anunai / Shutterstock
Bir şeyi çürütmenin zor olması, onun olası olduğu anlamına gelmez. İşin içine giren tartışmaların çoğunun kusurlu olduğu yer de burası. Olasılık, olasılık olarak ele alınıyor ama neredeyse her şey mümkündür. Asıl soru, gelecekteki bir senaryonun olası olduğuna dair güvenilir kanıt olup olmadığıdır.
Farzlar zinciri
Bugünün AI’dan insanlığın yok olmasına ulaşmak, uzun bir farzlar zinciri gerektirir.
Böyle bir dizilim şöyle işler: AI ajanları çok daha yetenekli hale gelir, gerçek dünyada güç ve kaynak edinir, teknik güvenceler başarısız olur, kurumlar çöker ve insan müdahalesinin etkisiz kaldığı görülür. Neyse ki, bu listedeki adımların hiçbiri henüz yaşanmadı.
Yok olma, o zincirdeki her bağlantının gerçekleşmesini gerektirir. Ancak tartışmalar sıkça sonuca odaklanır, her adımın olasılığına değil. Kendi şüpheci yaklaşımım rahatlığdan doğmaz. Onlar, otonom sistemler inşa etmekten – ve daha genel olarak karmaşık mühendislik sistemlerinden – gelen onlarca yıla dayanır.
Bu deneyim, bilgilerimin hatasız olduğu anlamına gelmez. Ancak, bu sistemlerin kolayca büyük bir güce sahip olup bunu kullanacağına dair iddialara karşı dikkatli olmamı sağlar. Bir AI sisteminin zekasını artırmak, kaçınılmaz olarak onun gücünü artırmaz.
Büyük kapasite, bir yapay zeka sisteminin kaynak edinmesini, açıkları istismar etmesini veya insanları etkilemesini kolaylaştırabilir. Ancak bu, yapay zekanın iktidar kollarına erişimi, insanlığın çıkarlarına zarar vererek kendi hedeflerini izleme teşviki, bedenlenmesi (fiziksel dünyayı ne kadar etkileyebileceği), gelecekte var olacak altyapı ve makine zekasının olası bir devralmasına yönelik insan tepkisi gibi önemli bir soru dizisini hala açık bırakıyor.
Yapay zeka ajanları boşlukta çalışmaz. Gerçekten küresel etki yaratmaları için bilgisayar ağlarına yaygın erişim, paraya erişim, robotlar gibi fiziksel sistemleri “yerleşerek” kullanabilme ve hükümetler ile diğer güçlü kuruluşları etkileme yeteneğine ihtiyaçları vardır. Bu konuların hiçbirinde henüz o noktaya ulaşmış değiliz.
Bu denetim noktalarının hepsi insanlar tarafından gözetiliyor. Yapay zeka sistemlerini biz tasarlıyoruz, ajanları nerede ve nasıl yerleştireceğimize karar veriyoruz ve onların faaliyet göstereceği sınırları biz belirliyoruz. Dolayısıyla daha yüksek zekadan büyük güce geçiş hazır kabul edilemez. Ancak son dönemde yapay zeka ajanlarının gerçekleştirdiği sızma olayları, rahatlamamamız gerektiğini ve güvenlik mekanizmalarının çok ciddi şekilde ele alınması gerektiğini gösteriyor.
Geleceğe dair bir rehber
Tarih faydalı bir bakış açısı sunuyor. Son yıllarda nükleer teknoloji, biyoteknoloji ve siber uzay hepsi ciddi, bazen varoluşsal riskler yarattı – bilerek kötüye kullanımdan kaynaklanan tehditler dahil.
Ancak toplumlar, bunları azaltmaya yönelik yönetim mekanizmaları, güvenlik uygulamaları ve uluslararası düzenlemeler geliştirdi. Bu örgütsel yapılar felaket ihtimalini ortadan kaldırmaz, ancak teknolojik determinizmin sınırlarını ortaya koyar.
Yapay zekanın geleceği önceden belirlenmiş değil. Daha güvenli sistemler tasarlayabiliriz, kullanım biçimlerini düzenleyebilir, şeffaflık ve hesap verebilirlik talep edebilir ve – gerektiğinde – otonomiliği kısıtlayıp anlamlı bir insan gözetimini zorunlu kılabiliriz.
Nükleer teknoloji, insanlık için ciddi bir varoluşsal risk de yarattı. John Turner / Alamy
Çok yetenekli yapay zekanın ortaya çıkması, geliştiricilere, araştırmacılara ve teknoloji şirketlerine büyük bir sorumluluk yükler. Belki de işte bu yüzden, Anthropic’in yöneticisi Dario Amodei’nin yapay zeka gelişiminde bir yavaşlama çağrısı gibi taleplerle karşılaşıyoruz.
Otonom ajanlar inşa edenler, hem oluşturdukları sistemleri hem de bu sistemlerin çalışacağı ortamları anlamalıdır. Aynı zamanda, bir bağlamda masum görünen yeteneklerin başka bir bağlamda nasıl riskler doğurabileceğini de değerlendirmelidir.
Güvenlik, geliştirme döngüsünün sonuna eklenen bir şey olamaz. Sürecin başından itibaren onun bir parçası olmalıdır. Bu da sağlam izleme, net operasyonel sınırlar, arıza güvenli mekanizmalar, yapay zeka gelişiminin denetlenebilme yeteneği, insan gözetimi ve sürekli değerlendirme anlamına gelir.
Bu unsurların çoğu, onlarca yıldır iyi mühendislik uygulamasının bir parçasıdır. Meydana gelen zorluk, yapay zeka sistemlerinin yetenekleri ve otonomisi arttıkça bunları ciddi ve sistematik bir şekilde uygulamaktır.
Yapay zeka şirketlerindeki kişiler, çalışmalarının önemli zararlara, hele ki insanlığın ortadan kaldırılmasına yol açma ihtimalinin makul bir şekilde var olduğuna inanıyorsa, ortaya basit bir etik soru çıkar: Neden bu sistemleri inşa etmeye devam ediyorlar?
Bu noktada, Çin ile ABD arasındaki geliştiricilerin en gelişmiş sınır yapay zeka modellerini üretme yarışının arka planını değerlendirmek önemlidir. Bu, bazı şirketleri modellerini çok ileri götürmeye itebilir mi? Önerilen çözümler, küresel tabloyu kapsamaya çalışmalıdır.
Çoğu alanda, küresel felakete yol açma olasılığı yüksek olduğuna inandığınız bir teknolojiyi bilinçli olarak geliştirmek, olağanüstü bir gerekçeleme gerektirir. Yapay zeka geliştiricilerinin, risklerin dengesini ve çalışmalarını devam ettirmeyi neden hala değerli bulduklarını açıklayan daha iyi açıklamalara ihtiyacımız var.
En önemli riskler, yalnızca makinelerin ne yapabileceğine değil, aynı zamanda bu teknolojilerin nasıl tasarlandığı, nasıl uygulandığı ve nasıl yönetileceğine dair insanların yapacağı seçime de bağlıdır. Ajans AI kendi geleceğini belirlemeyecektir. Bunu insanlık belirleyecektir. Bu da yargımızın kalitesini, kurduğumuz makinelerin zekâsı kadar önemli kılar.
Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔
