Avustralya Başbakanı Anthony Albanese, geliştirdikleri teknolojinin tehlikeleri konusunda dünyaya yönelik uyarıları dikkate alıyor gibi görünüyor. Bu hafta sonu küresel kuralların yapay zekanın (YZ) gelişimini “insanların kontrol altında kalmasını sağlamak” için gerekli olduğunu söyledi.
Bu açıklamalar, Anthropic adlı YZ şirketinin yöneticisi Dario Amodei’nin YZ geliştirmesinin yavaşlatılmasını istemesinden sonra geldi. Böylece hükümetlere ve şirketlere teknolojiyle ilişkili “ciddi” risklerle ilgilenmek için daha fazla zaman tanınıyor. OpenAI’nin başındaki Sam Altman gibi önde gelen diğer YZ isimleri de ona katılıyor.
Bunu ne tetikliyor?
YZ’in insan kontrolünden kaçabilme kapasitesiyle ilgili kaygılar artıyor. Bu da üst düzey bir YZ siber güvenlik olaylarının ardına geliyor. Örneğin, geçen hafta Google, mayıs ayında siber güvenlik yeteneklerinin testinde üç web sitesini otonom olarak hacklediğini duyurduğu Gemini adlı YZ modelinden söz etti.
Anthropic’in ve OpenAI’nin YZ modelleriyle ilgili benzer olaylar da son dönemde yaşandı. Bu siber güvenlik olaylarından birine bakıldığında, hiperbolik pazarlama olarak yorumlanabilir. Hızlı medya döngülerinin dünyasında bu durum, YZ yetenekleri üzerindeki heyecanı korumaya yardımcı oluyor. Ayrıca artan teknolojik gelişmelerden çok daha ilgi çekiciler.
Ancak aynı zamanda YZ şirketlerinin daha fazla gözetim ve düzenlemeye ihtiyacı olup olmadığı sorusunu da gündeme getiriyorlar.
Ülkeler şu anda ne yapıyor?
Geçen hafta Avustralya hükümeti, önerilen ulusal “YZ standartları” konusunda bir görüşme belgesi yayımladı. Odak noktası, veri merkezleri ve YZ eğitim altyapısı etrafındaki fırsatların hayata geçirilmesi ve olası zararların en aza indirilmesidir. Ancak şirketlerin, başka bir şirketi hacklemek gibi kötü huylu olayları Avustralya makamlarına bildirmesi için yasal olarak zorunlu kılınması da öneriliyor.
Avrupa Birliği’nin YZ Yasası, muhtemelen YZ’yi düzenleyen tüm araçlar arasında en ilerici olanıdır. YZ’yi kabul edilemezden minimal risklere sınıflandıran bir risk katmanlı çerçeveyi uygular.
Her katman, paydaşların yasakları anlamalarına ve uyum sağlamalarına yardımcı olacak yasal açıklamalar ve pratik örneklerle gelir. YZ Yasasının uygulanması, üye devletler, Avrupa Veri Koruma Gözetmeni ve Avrupa Komisyonu’nun YZ Ofisi arasında paylaşılır. YZ Ofisi teknik dokümantasyon talep edebilir, modelleri değerlendirebilir, düzeltici önlemler isteyebilir ve önemli olan uyumsuzluk için para cezası verebilir.
Amerika Birleşik Devletleri’nde YZ düzenlemesi geldiğinde siyasi bir çıkış yolu bulunmuyor. Başkan Donald Trump resmi düzenlemeye karşıdır. Diğer siyasal figürler, örneğin Senatör Bernie Sanders, ABD’nin YZ düzenlemesinde Çin ile çalışmasını istiyor.
Küresel bir yaklaşım gerekli
YZ küresel bir teknolojidir ve derin sahtekarlık, algoritmik önyargı veya hackleme gibi belirli konuları hedef alan parçalı yasalar onu kontrol altında tutmak için yeterli değildir. Anthony Albanese’nin çağrısındaki gibi küresel bir yaklaşım açıkça gerekli.
Başlangıçta şunu kabul etmek önemlidir: herhangi bir küresel yaklaşım kusurlu olacaktır. Bu özellikle teknoloji gelişmeye devam ederken geçerlidir. Ancak kusurlu bir araç, yalnızca YZ şirketlerinin doğru şeyi yapmasına güvenmekten daha iyidir.
Bu yaklaşım, küresel havacılık sektörünün nasıl düzenlendiğinden ilham alabilir. Örneğin, ulusal düzenleyicilerin yanı sıra Uluslararası Sivil Havacılık Organizasyonu olarak bilinen uluslararası bir yönetim organına sahiptir. Bu organizasyon güvenlik standartları belirler, uyumluluk denetimleri yapar ve olayların incelenmesi ve analizine önderlik eder.
YZ için küresel bir düzenleme yaklaşımı, Uluslararası Atom Enerjisi Ajansı’ndan da ilham alabilir. Bu organ, nükleer güvenlik ve güvenliğin küresel standartlarını belirlemede merkez rol oynar ve uluslararası işbirliği ve düzenlemeyi teşvik eder.
Bunlar, yeni ve ortaya çıkan teknolojiyi yönetirken küresol işbirliğinin en iyi modellerinden bazılarıdır. YZ’ye uygulandığında daha güçlü bir güvenlik çerçevesi, YZ modellerinin zorunlu üçüncü taraf denetimleri ve teknolojinin greater şeffaflığı sonucunu doğurabilir.
Avustralya anahtar rol oynayabilir
Avustralya, büyük teknoloji şirketleri üzerinde sınırlı etkisi olan orta güç olabilir. Ancak YZ için daha fazla düzenlemeye ihtiyaç konusunda küresel bir uzlaşıyı oluşturmaya yardımcı olabilir. Gençlerin sosyal medya erişimini kısılmaya yönelik dünya lideri – yine de kusurlu – çabası bunu gösteriyor. Diğer birçok ülke şimdi sosyal medya platformlarının yol açtığı zararların bazılarıyla baş etmek için benzer adımlar atıyor.
Güçlü uluslararası YZ düzenlemeleri geliştirmek muhtemelen yavaş olacaktır – özellikle de ABD kendi tutumuyla mücadele ederken. Bu tür düzenlemelerin olmaması durumunda, dünyanın dört bir yanındaki ayrı ayrı yetkili bölgelerin, geliştiriyor oldukları teknolojiden kaynaklanan zararlar için YZ şirketlerini daha hesap verir kılmaları önemlidir.
Avustralya hükümeti bu fikri YZ etik ilkeleri içinde dahil ediyor: Farklı YZ sistem yaşam döngüsü aşamalarından sorumlu olanların tanımlanabilir ve YZ sistemlerinin sonuçlarından hesap veren olması gerekir; ayrıca YZ sistemleri üzerinde insan gözetiminin sağlanması gerekir.
Ancak diğer yetkili bölgeler daha ileri gittiler. Örneğin, Alabama eyaletinin Başsavcısı, bu yıl Hugging Face teknoloji girişiminin hacklenmesi üzerine OpenAI ve Sam Altman hakkında bir soruşturma başlattı. Soruşturma, OpenAI’nin tüketici koruma yasalarını ihlal edip etmediğine bakacaktır. Ayrıca şirketin ilgili tüm belgeleri ve verileri teslim etmesini içeren bir tebligat da dahil.
Bu tür hesap verebilirlik, YZ şirketlerini ürünlerinin güvenliğini sağlamaya itecektir. Bunun daha fazlası olmadan, böyle hızlı gelişen teknolojinin riskleri büyümeye devam edecektir.
