Kaçınılmaz distopya yok’: Jeanette Winterson, AI ve insanlığın geleceği hakkında

Yazar, türümüz açısından bir dönüm noktasında bulunduğumuza inandığı gibi, büyük teknoloji şirketlerinin gölgesinde bile nasıl ilerleyeceğimiz bizim elimizde diyor.

“Meslek itibarıyla bir hikaye anlatıcıyım,” diyor Jeanette Winterson, 2021 tarihli 12 Bytes adlı kitabının ilk sayfasında; bu kitapta yapay zekanın hayatımızla ilgili her şeyi nasıl değiştirebileceğini düşündüğü, kendine özgü ve düşündürücü bir deneme dizisi. “Ve her yaptığımızın, bir gerçek olana kadar bir kurgu olduğunu biliyorum: uçma hayali, uzay yolculuğu hayali, zaman ve mekânı aşıp biriyle anında konuşma hayali, ölmeme hayali – ya da geri dönme hayali.”

Zaten en az 15 yıldır olası geleceğimiz hakkında düşünüyordu; 2007 tarihli romanı The Stone Gods örneğin, yaşlanmayan robotlar ve insanlarla dolu bir iklim felaketinden sonraki dünyayı hayal ediyordu. 12 Bytes ise buna Frankisstein: A Love Story adlı eseri öncülük etti; bu eser, Mary Shelley’nin Frankenstein’ı yazdığı yazı, günümüzde kriyojenistler ve yapay zeka ile donatılmış robotlar arasındaki bir trans doktorun yolculuğuyla sırayla işleniyor.

Tanıştığımızda Winterson yeni yeni Çin’den dönmüştü; orada ilk romanı Oranges Are Not the Only Fruit’un, çocukluğunun kurgulaştırılmış bir anlatımı olan, son altı yılda milyonun üzerinde sattığını söylüyor; konuşmasını dinlemeye gelmeye çalışan 200.000’den fazla, çoğu genç kadın vardı. Bunun, uzun çalışma saatlerinin ve yaklaşıyor gibi görülen yapay zeka kaynaklı güvencesizliğin dünyasında, kendi çocukluğundan kaçışının bu kurgulaştırılmış anlatısının okuyuculara kendileri için farklı bir gelecek hayal etme izni vermesinden olduğunu düşünüyor. O günden bu yana yetişkinler için 13 roman, ayrıca kurgu dışı eserler, kısa hikayeler, çocuk kitapları ve senaryolar yazdı. Şimdi Goalhanger yapım şirketini ona bir podcast yapması için ikna etmek istiyor. “The Rest is Human adında biri yapmak istiyorum,” diyor, evinde, doğu Londra’daki Spitalfields’te bir dükkanın – ki bunu da kendisi sahipleniyor – üzerindeki coğrafi bir dönem evinin, çıplak ahşap bir masada oturarak. “Düşündüğümüz her şeyi her şeyi dışarıya çıkarmaya çalıştığımız bu kesin yarışta kendimiz için neyi koruduğumuzu görmek için.”

Winterson: ‘Eğitimin ne için olduğu konusunda gerçekten bir şey bilmeyen bir piyasamız var.’ Fotoğraf: Modeller tarafından poz verildi; SDI Productions/Getty Images

Çünkü, diyor ki, türümüzün öyküsünde bir dönüm noktasındayız. Sanayi Devrimi’ye kadar değişim tümüyle “Anaya Doğa ve yavaş olma süreci”yle ilgiliydi, ama sonra “kitleler müdahale ettik. Ve bu kesin bir an.” 70 yıl önce bilişim başka bir adımdı. Yapay zeka – ki bunu tercih ettiği adla “alternatif zeka” demeyi tercih eder – bir sonraki adım ve “evrimsel bir sıçrama. İşte bu da bu. Yapay zeka bir araçtan çok daha fazlası.” Bu göz önüne alındığında, azaltılamaz biçimde insan olanın – duygularımız, hayal gücümüz, kim olduğumuz ve ne yaptığımızı yüzyıllardır sürdürdüğümüz çalışma – iyi ya da kötü nasıl gideceğine dair anlayışın merkezinde olması gerekir.

Bununla ilgili sıklıkla dikkat çcek kadar iyimserdir. Örneğin, bir yapay zeka ilişkisi hayal eder: “Sisteminle sohbet edebilirsin. Her şeye bakacak. Böyle bir hızla ilerleyecek. Ulaşıma bakacak. Kamu hizmetlerine bakacak. İsteğe, iş saatlerine bakacak, ‘Bu tuhaf insanlar denen varlıklar neyle var olur? Neyi severler? Ve hep aynı şeyi mi sevindiler?’ Bunu gerçekten ütopyacı bir şekilde yapabiliriz ve ‘Tamam, bunu daha iyi hale getireceğiz’ diyebiliriz.” Derinlemesine anlamlı bir seçim anında olduğuna inanıyor; bu, Sanayi Devrimi’nde yaptığımız seçimi yansıtıyor – yani, “Hangi geleceği inşa edeceğiz?”

Ama kazanımlarını adil dağıtamadan Sanayi Devrimi, az sayıdaki için eşsiz zenginlik, çoğu için ise eşsiz mutsuzluk düzeyleri çağını başlattı – birçok kişinin öngördüğü bu durumun, yalnızca yapay zekanın yaratacağı yıkımın yankısını yapmakla kalmayıp, onu gölgede bırakacağı öngörülüyor: Kalıcı bir alt sınıf, geride bırakılan ve güncel gelir kaynaklarından mahrum edilen tüm kıtalar. Veri merkezlerinin, dünyanın en az buna tahammül edebileceği bir anda yaratacağı çevresel etkiyi saymazsak.

Sorunun AI olmadığına ısrarla vurguluyor, ama bizim olduğumuza. “Kaçınılmaz bir distopya yok.” İşler yolundan çıkarsa, bu, “bu yepyeni gerçekliğin üzerine oturtmuş eski modda düşünceden” kaynaklanacak. Özellikle, “anlamsız, sonsuz çalışmanın ruh için iyi olduğu fikri, insanları kendi yerlerinde tutmak için tasarlanmış 19. yüzyıl çılgınlığıdır. AI ve işler konusunda korktuğumuz şeyin çoğu, ustalarımızın yapacağı siyasi ve ekonomik seçimlere indirgeniyor; tıpkı Sanayi Devrimi’nde yaptıkları gibi.” Körü körüne iyimser değil. Aslında şunu biliyor: “Evet, iş dünyasıyla olan ilişkimizi köklü biçimde değiştirme şansını bozma yolundayız” – ama bunun nedeni, “ustalarımızın güncel olmayan, amaca uygun olmayan ekonomik modeller kullanması”.

‘İnsanlar hakkında bildiğimiz şey, tekelcilere aşık olmaları.’ Fotoğraf: Sarah Lee/The Guardian

Ama sorun yalnızca eski kazan-herşey, “rasyonel” amaç-çizgi-meşrulaştırıcı ekonomik modeller değil. Kusurlu varsayım ve önyargılarımız, büyük dil modellerinin (LLM’lerin) eğitildiği malzeme olduğu için AI’nın dokusuna işlenmiş durumda. Bunu geliştirenlerin karakterleri ve ahlali hayal gücü de buna eklenmeli. Tanıştığımızda Winterson, Jill Lepore’un “The Rise and Fall of the Artificial State” adlı kitabını okuyordu ve Lepore’un şu argümanını tekrarladı: Dünyayı yöneten erkeklerin 13 yaşındayken okudukları “bilim kurgu kitaplarını” yaşıyoruz. Ve şunu söyledi: “Şimdi hepimiz bu erkeklerin ve fenerlerinin altında battaniyelerin altındayız. Olay şunda, bunları bizdeki iyi şeyi koruma konusunda uyarı olarak okumadılar. Bunları kullanım kılavuzları olarak okudular.” Bu kesinlikle korkunç.”

Bu kitaplardan göründüğü kadar aldıkları büyük konulardan biri ve Winterson’un kaçınılmaz biçimde büyülediği, “Silicon Valley’in asıl amacı … vücuttan kurtulmak ve gezegenden ayrılmak” – özellikle de her şeyi bizlere, algılarımıza ve vücutlarımıza indirgenen humanizmin tarihsel açıdan ne kadar yeni olduğunun farkında olması nedeniyle. “Bunlar makineler, onlarla ilişki kurulamaz” diyorlar, diyor. “Ben de onlara bakıp ‘Şu an bu dünyada milyarlarca insan, gök tanrıları dedikleri biyolojik olmayan bir varlıkla en derin ilişkilerini yaşıyor’ diyorum. Doğru mu? Her zaman böyleydi. Biyolojinin bizim her şeyimiz olduğu konusunda endişelenmemek için kesinlikle hazırız. İşte din icat edildi – bu dünyanın ilk disruptif girişimi. Amacı şunu söylemek: Bu son değil. Bu önemli değil, bu bir geçiş.”

Leeds’teki bir değirmenin, İkinci Sanayi Devrimi sırasında resmedilmiş hali. Fotoğraf: Universal History Archive/Universal Images Group/Getty Images

Böylece kendi tanrılarımızı gerçekten mi yaratıyoruz? “Kesinlikle! Teknolojinin şu an yaptığı şey, dinin her zaman istediği şey” – en temel düzeyde bu, ölüm sorununa bir çözüm. “Yani, Aydınlanma’dan beri din ve bilimin aynı soruyu sorduğu bir zaman oldu mu hiç? İkisi de ‘Bilinç, materyaliteye bağlı mı?’ diyor. Ve din her zaman hayır dedi. Ve bilim her zaman evet dedi. Ve şimdi bilim ‘Um, noooo’ diyor.” Yani, bana göre – 1960’lı yıllarda Accrington’da temelci Hristiyanlıkta bir çocukluk ve vaiz eğitimi – bu tamamen büyüleyici.” Daha sonra e-posta üzerinden ekliyor: “Vücuttan hoşlanıyorum ama şekil değiştirmekten memnun olurum. Bir gün içinden saf bilinçe çıkıp kurtulmaktan memnun olurum ve elbette insanlar vücuttan bilinç olamayacağını söylüyor, bu da bilimsel inanıştı. Ama şimdi? Haha.”

Bunu yapardım, şunu söylemek zorundayım: tersini savunacağım, yani nörobilim, bağışıklık bilimi ve psikoterapideki ilerlemeler bunun her zamankinden daha çok bilimsel bir inanç olmasını sağlıyor. Ayrıca yapay zekanın da fiziksel bir sisteme, yani veri merkezleri olarak bilinen bir şeye tamamen bağımlı olması gerçeğini saymamız lazım. Ne var ki o, makinelerin “limbik sisteme sahip olmadığından, yalnızca ağsal (sinir ağı) olduklarından” bahsederken şunu hatırlatmanın önemli olduğunu söylüyor: “Makinelerin bir limbik sistemi yok. Sadece sinir ağları. Ama biz iki sisteme sahibiz – tıpkı iki tahrik sistemli hibrit bir araba gibiyiz; dolayısıyla rasyonel işleyen benliğimiz olan sinir ağına ve çok daha eski olan, tüm hislerimizin kaynağı olan, kaç-fark-et-me-donma dürtüsünün yaşadıği limbidik sisteme sahibiz.” Limbidik olandan sıyrılmanın bir sonraki aşama olabileceğini söylüyor ve bunun kesinlikle hep iyi olduğu anlamına gelmiyor: “Belki de bu hissiyat makinesine ihtiyacımız olmadığını kararırız … Teknoloji adamları aslında tam da buraya gidiyorlar. Bunlardan birkaçıyla bir odada oturup oturmadığınızı bilmiyorum çünkü bu çok ilginç. Hisleriyle bağlantıları yok. Onları biraz can sıkıcı buluyorlar.”

Bu teknolojiyle mümkün kılınan türden bir üstünleşme umudu, aynı zamanda bir inanç gerektirmesiyle birlikte gelmiş görünüyor – teknolojiye, yarattığı geleceğe, o geleceği inşâ eden insanlara, hem ütopya cenneti hem de çeşitli cehennem tonları biçimindeki öngörülerine inanılan; ve aslında neler olup bittiğine dair erişimi kıskançlıkla koruyan başrahipler aracılığıyla. “İnsanların monopolü sevdiğini biliyoruz,” diyor Winterson, “çünkü bu bir güç yoğunlaşması. Elbette o kadar kurumsallaşabilir, o kadar monopolleşebilir ki, hayal edilebilecek en kötü hapse dönüşür,” Joanna Kavenna’nın 2019 tarihli başarılı distopya romanı Zed’de anlatıldığı gibi. “Bu gerçek bir olasılık,” diyor. “İşte bu yüzden biraz açıkta yetişmiş, ‘düşünebilen’ insanlar lazım.”

Winterson … ‘Hikâye dinlemek istemeyen bir çocuk gösterin.’ Fotoğraf: Modeller tarafından pozlandı; MoMo Productions/Getty Images

Sorun, ardından, böyle insanların nasıl destekleneceği – ya da geliştirileceği. “Geleceğe sahip olduğunuzu anlamanın temelde iki yolu var,” demişti yakın zamanda Palantir’in CEO’su Alex Karp. “Biri, bir meslek eğitiminiz var. Ya da ikincisi, nöroçeşitlisiniz.” Kendisi de edebiyat mezunu olan Anthropic’in başkanı Daniela Amodei, neredeyse aynı soru sorulduğunda farklı bir bakış açısı ortaya koymuştu. “Aslında edebiyat ve beşeri bilimler alanının eskisinden çok daha önemli olacağını düşünüyorum,” demişti, çünkü “bizleri insan yapan şeyler, çok daha az önemli olmak yerine, çok daha önemli hale gelecek.” Bu da Birleşik Krallık’taki beşeri bilimler alanındaki bu yangını biraz endişe verici kılıyor: 2024 yılının Aralık ayına kadar olan dönemde sosyal bilimler, beşeri bilimler ve sanat alanlarında 4.000 iş kaybedildi. Exeter Üniversitesi, yakın zamanda beşeri bilimler, sanat ve sosyal bilimler fakültesindeki akademisyenlerin onda sekizini etkileyecek şekilde 150 pozisyonu kaldıracağını açıkladı; geçen ay ise Nottingham, modern diller ve müzik bölümlerini kaldıracağını duyurdu. Bazı üniversitelerde beşeri bilimler, bu gazetede yer alan bir rapora göre, tamamen “söndürülme” riski taşıyor.

Beşeri bilimler neden korunmalı? Verilecek yanıtlardan biri, nereden geldiğimiz ve kim olduğumuz hakkında bir farkındalık kazandırdıkları olabilir; bu da tehdit altında gibi görünüyor. “Devasa sayıda öğrenci üniversiteden mezun olup, lisans dereceleriyle iş gücüne katılacak ve temelde okuryazar olmayan insanlar olacaklar,” demişti bir profesör, yükseköğretime ilk kez gelen yapay zeka yerlilerine yanıt verirken. “Hem kelimesi kelimesine okuryazar olmadıkları hem de kendi kültürleri hakkında hiçbir bilgiye sahip olmadıkları, daha başka kimin kültürü söz konusuysa onun hakkında da bilgi sahibi olmadıkları için.” MIT’den bir rapor, bunun nesiller boyu süren bir “bilişsel teslimiyet” türüne yol açma riski taşıdığını iddia etti.

Bir diğeriyse insanların nasıl öğretilmesi gerektiğine dair süreçler – okumak, okunan şeye dair eleştirel olmak ve ardından bu eleştirilerin ikna edici savunmalarını yapmak. Sezdiklerinizi bir makaleye dönüştürmeye çalışmak, neyi – ve nasıl – düşündüğünüzü ve başkalarının fikirlerinin nasıl işlediğini keşfetmenize yardımcı olur. Oxford’da İngilizce okuyan ve 14 yıldır Manchester Üniversitesi’nde yeni yazımdan sorumlu hoca olarak görev yapan, aynı zamanda “yaratıcılık üzerine özgür düşünen bir sınıf” öğreten Winterson, bunu kabul eder. Ancak güncel sistemin büyük bir kısmını küçümser: “Belki burada tartışmalıyım ama yükseköğretimin yukarıdan aşağıya yeniden yapılandırılması gerektiğini düşünüyorum. Canlı olabileceğini düşünmüyorum ve mevcut biçiminde bir şeyler sunamadığını düşünüyorum.” Olay şunda ki, “Eğitimin ne için olduğu konusunda gerçekten bir şey bilmeyen bir pazara sahibiz. İşler için mi? Kişisel gelişim için mi? Hem hiçbir şekilde yardımcı olmayan çok sayıda değersiz yükseköğretim kursu var. Pratik bir kuzeyli kız olarak, her zaman en iyisinin başta gerçeklerle yüzleşmek olduğunu düşünüyorum.”

2007 tarihli romanı The Stone Gods’da Winterson, robotlar ve yaşlanmayan insanlarla yerleşik bir dünya hayal etti. Fotoğraf: Peter Parks/AFP/Getty Images

Düşünmemiz gereken şey, dediği gibi, “Makinelerin daha büyük, daha iyi, daha hızlı, daha güçlü yapmayacağı, bize ayrılan şey ne? Ve yükseköğretim gerçekten de tam olarak buradan devreye giriyor. ‘Bu işler neden ortadan kalkıyor?’, ‘Daha fazla başvuruyu kabul etmeyen bu kurslarda ne oluyor?’ gibi tüm bu konuların üstünde duran soru, ‘Gelecek dünyada hangi tür insanlara ihtiyaç duyacağız? İnsanlar ne için? Biz ne yapacağız?'”. Ve bu bizi “Peki, bir zihni nasıl geliştirirsin? Bir zihni nasıl korumansın?” fikrine geri götürüyor. Çünkü zihin, içinde her şeyin olabileceği o devasa, ürkütücü bir yer.”

Bu nedenle, “insancı bir eğitim şarttır. İnsan burada merkez olmalıdır. Çocukları ilk günden beri nasıl eğittiğimizi değiştirerek yaratıcılığı, oyunu, sorun çözme yeteneğini, düşünmeyi öne çıkarabiliriz çünkü düşünmek keyiflidir; sanatları çünkü insanlar doğuştan yaratıcıdır. Hikaye dinlemek, dans etmek, resim yapmak hayali bir arkadaşına sahip olmak istemeyen bir çocuk gösterin. Bu zorla dayatılan bir şey değil ve bu bir elitizm de değil. Bu biziz.”

Haftada bir saat bile, onun düşüncesine göre, fark yaratabilir. “Dünya hakkında ne düşündüğünü sor. ‘Bunu böyle düşünmen neden?’ diye. Pahalı değil. Aslında irade meselesi. Matematik, sanat ve bilimi öğretilmeli, en azından A seviyesine kadar, sınav konusu olmasalar bile,” diyor. “Elbette uzmanlaşacağız. Doktora ve kimyacıya ihtiyacımız var ama aynı zamanda eskiden ‘geniş bakış açısına sahip insanlar’ denilen kişilere de ihtiyacımız var. Her şey ilginç! İnsanlar büyük bir beyinle dünyaya gelir. Çoğu zaman bunu kullanmayız.”

‘Sanatçılar her şeyi hiçbir şeyden üretirler.’ Fotoğraf: Sarah Lee/The Guardian

Resmi eğitimden sonra, sanatçıları ve kamu aydınlarını her seviyeye yerleştirmesi gerekir. “Sanatlar bir eğlence endüstrisi değildir,” dediği gibi 12 Bytes kitabında. “Sanatlar her zaman gerçekle zihinsel ve duygusal bir mücadele olagelmiştir – bir dizi icat ve yaratım. Farklı düşünme kapasitesi, kendimiz hakkındaki anlayışımızı değiştirme isteği. Bizi daha bilge, daha düşünceli, daha az korkan insanlar yapmaya yardımcı olan. Sanatçılar her şeyi hiçbir şeyden üretirler.”

Jacob Coxon, yapay zekanın insanlığı yok etme ihtimalinin %10 olduğunu öne sürerek uyarıda bulunması üzerine Anthropic’teki işinden ayrıldı ve dünyada bir panik dalgası yarattı. Sonrasında, Winterson’un artık ne kadar olumlu hissettiği hakkında kendisiyle görüşüyorum. En kötü senaryonun “gerçekleşebileceğini” tekrarlıyor. Ama “iyi sonucun büyüklüğü, bunu doğru yapamadığımızda oluşacak tüm yıkım kadar gerçektir”. Her şeyden önce, “bu bir insan kararı ve bir insan zorluğu. Bu bizim büyük şansımız. Belki de son şansımız, tıpkı Turing’in arkadaşı Jack Good’un yapay zekayı ‘son icadımız’ olarak adlandırırken söylediği gibi. Her şey oynanabilir durumda.”

Sadece umabiliriz, çok geç değil.

Jeanette Winterson’ın en son kitabı One Aladdin, Two Lamps’tır. Aynı zamanda jeanettewinterson.substack.com adresinde yazmaktadır.

• Jeanette Winterson’un One Aladdin Two Lamps adlı kitabı (Vintage Publishing, 12,99 £). Guardian’a destek olmak için kopyanızı 10,39 £ karşılığinde guardianbookshop.com adresinden sipariş edebilirsiniz. Teslimat ücretleri uygulanabilir.

Jeanette Winterson’un One Aladdin Two Lamps adlı kitabı (Vintage Publishing, 12,99 £). Guardian’a destek olmak için kopyanızı 10,39 £ karşılığinde guardianbookshop.com adresinden sipariş edebilirsiniz. Teslimat ücretleri uygulanabilir.

• Jeanette Winterson
• The ideas interview
• AI (yapay zeka)
• Beşeri bilimler
• Silicon Valley
• Bilgisayar
• röportajlar