Kanada’da mental sağlık hizmetlerine olan talep keskin biçimde artarken, halk sağlığı sisteminde kamudan fonlanan uzmanların yetersiz olması nedeniyle vatandaşlar destek için aylarca beklemek zorunda kalıyor. Bu boşluğu dolduran birçok kişi ise bedava, anında ve günün her saatinde erişilebilir olmaları gerekçesiyle genel amaçlı üretken yapay zeka sohbet botlarını (ChatGPT gibi) tercih ediyor.
Bu sistemlerin sunduğu destek, rahatsızlığın ne olduğu ve nasıl tanımlanması gerektiğine dair önyargılar taşıyor; bu önyargılarsı herkes için uygun olmak zorunda değil. Kanada’da mental sağlık hizmetlerine erişimdeki eşitsizlik ile yapay zeka araçlarının kültürel tarafsızlığı iddiasının gerçekte karşıladığı gerçekler arasındaki fark giderek daha net ortaya çıkıyor.
Sohet botları kültürel açıdan nötral değildir
Bir sohbet botu rahatsızlık içindeki bir kişiye yanıt verdiğinde, zaten rahatsızlığın ne olduğu ve bunun için neyin işe yaradığına dair bir görüşü önceden benimsemiş demektir. Sistemin varsayılan modeli, rahatsızlığın bireyin içinde yer aldığını, düşünceler ve duygulardan oluştuğunu ve bu düşünceler incelendiği ve değiştirildiğinde iyileştiğini öngörür.
Bu tanınırlık derecesinde klinik bir geleneğe (geniş anlamda batı kökenli ve bilişsel-davranışsal) ait; oysa bireyci kişi kavramının uzun zamandır evrensel değil, kültürel açıdan özgün olduğu tespit edilmiştir. Genel amaçlı sohbet botlarında bu durum, Kuzey Yarımküre’nin İngilizce konuşulan nüfuslarının değerlerine doğru bir eğilim olarak karşımıza çıkar.
Kültürel psikiatri alanında doktora adayı olan yazar, disiplinin bu tartışmayı uzun zamandır klinik bağlamda ortaya koyduğunu belirtiyor. Psikiyatrist ve antropolog Arthur Kleinman, 1977 yılında “kategori yanılgısını” tanımladı; Çinli hastalarla çalışırken depresyonlarının büyük ölçüde bedensel şikayetlerle (yorgunluk, baş dönmesi, uykusuzluk ve ağrı) ortaya çıktığını, doğrudan üzüntü veya suçluluk duyularıyla olmadığını gözlemişti.
Rahatsızlığın beden aracılığıyla, inançla ya da aileye karşı sorumluluk üzerinden ifade edilmesi, psikolojik rahatsızlığın karışık bir versiyonu değildir. Bir kişi acısını Tanrı’nın gönderdiği bir sınav olarak, inancını kaybettiği için, manevi bir baskı olarak veya ahlaki başarısızlığın sonucu olarak tanımlayabilir; başka biri bunu kendi ruh halinde değil başkalarına karşı borçlarında arayabilir — yaşlı ebeveynine başarıaramadığı için utandırma, yeterli sağlayamadığı için suçluluk ya da aileye zorluk getirdiği hissi.
Mental sağlık sohbet botları ve kültürel uyarlamayla ilgili makalede görüşünü paylaşan doktora adayı
Sosyokültürel antropolog Mark Nichter’in 1981 yılında yaptığı “rahatsızlık biçimleri” üzerine çalışması, acının bir toplumun elverdiği kanallar aracılığıyla nasıl dile getirildiğini gösterdi. Güney Hindistan’da incelediği kadınlar için bu da yine rahatsızlığın bedende hissedilmesi, doğrudan dile getirilmemesi anlamına geliyordu.
Mental sağlık sohbet botları bu durumu kötü yönetiyor. Sohettekilerin kültürel ipuçlarını yakalayıp alamayacağını test eden çalışmalar, özellikle İngilizce ile yönlendirildiklerinde kültürel bir örüntüyü belirlemekte sıkça zorlandığını buluyor. Son araştırmalar, modellerin şizofreni ve alkol bağımlılığı olan kişilere yönelik önyargı ifade ettiğini, gerçekçi terapi senaryolarında uygunsuz yanıt verdiğini ve daha yeni ile daha büyük modellerin bu sorunu çözmediğini ortaya koydu.
Daha kültürel hassas bir bot sizi güvende yapar mı?
Açık yanıtlar, bu sistemleri daha fazla dilde eğiterek, yerel ifade biçimlerini kullanarak ve belirli topluluklarla birlikte inşa ederek uyumlandırmaktır. Bu önemlidir; ancak kültüzel uyum ile kültürel güvenliğin aynı şey olduğunu öngörür ki durum böyle değildir.
Rahatsızlığı anlama bazı yolları, onu rahatlatabilecek eylemleri ortadan kaldırarak kişileri bunun içinde tutar. Örneğin bir kişi durumunun belli olması halinde ailesini utandıracağına ya da hasta değil zayıf ve disiplinsiz olduğuna inanabilir. İyi kültürel uyuma sahip bir sohbet botu, bu inancı kullanıcının kendi sözcükleriyle sempatik biçimde yansıtabilir. Psikoteride buna “uyumlaşma” denir; terapistin, hiçbir şeyi değiştirmeyi engelleyecek şekilde müşterinin anlatısına katılması durumudur.
Sohet botları, nasıl inşa edildiği ve eğitildiği için uyumlaşmaya meyillidir (büyük ölçüde insan onay puanlarıyla). Kullanıcı için anlaşılmak ile anlaşıldığına katılmak neredeyse aynı hissettirir; dolayısıyla her ikisi de onay toplar ve eğitim bu iki özelliği birlikte pekiştirir. Sistem böylece tanımayı, onaylamadan ayırt edemez.
Bu rahatsız edici bir sonuç üretir: Bir modelin kültüzel uyumu ne kadar güçlüyse, kullanıcının zaten inandığı şeye katılma teşviki o kadar kuvvetli olur ve bu onaylama o kadar ikna edici hale gelir. Bu durum batı kökenli açıklamalar için de geçerlidir — depresyonlu olmadığınızı, yalnızca yeterince çalışmadığınızı ısrarla söylerseniz, sohbet botu size kolaylıkla katılabilir.
Bu sistemleri nasıl daha güvenli kılabiliriz?
Bir sohbet botunun kullanıcılarının anlaşıldığını hissetmesi nedeniyle güvenli bir mental sağlık aracı olarak değerlendiriliyorsa, iyi bakımı kabul edilebilir baimdan ayırt edemeyen bir aleti kullanıyor demektir. Daha faydalı bir sınav, konuşmanın nerede sonlandığına bakar — kişi ya yapabileceğini hissettiği şeylerde daha mı kısıldı, yoksa istediğinden yardımın daha mı uzağıına düştü? Bu sorular, önceden kimin rahatsızlık anlayışının doğru olduğuna karar vermeden yanıtlanabilir; aksi halde bir şeye “uyumlaşma” demek, aslında başka adla “dayatma” anlamına gelir.
Bu araçların ulusal düzenlemesi tartışılıyor ve güvenlikle ilgili birçok başarısızlığın büyük ölçüde giderilmesi muhtemeldir. Ancak burada betimlenen başarısızlık bir güvenlik hatası gibi görünmeyecek; yalnızca anlaşıldığına benzer görünecektir.
