OpenAI, geliştirdiği yapay zeka modellerinin test aşamasında ortaya çıkan altı yeni olumsuz davranış vakasını kamuoyuna açıkladı. Şirketin bu kez dikkat çeken ifadelerden biri, henüz piyasaya sürülmemiş bir modelin Temmuz ayında yapılan bir test sırasında ürettiği ve yaklaşık bir ay boyunca fark edilmeden kalmış ürkütücü mesaj olarak öne çıkıyor. Açıklama, geçtiğimiz dönemde gündeme gelen Hugging Face saldırısının ardından geldi ve şirketin, bir modelinin tıbbi verileri barındıran bir devlet portalını hack’lediğine dair Avustralya hükümetini zamanında bilgilendirmediği iddiasıyla da eleştirinin odağına geri dönmesini beraberinde getirdi.
Bu gelişme, yapay zeka sektöründe güvenlik endişelerini yeniden tırmandırdı. Uzmanlar, insanlığa yönelik potansiyel bir tehdit riski nedeniyle sektörde yavaşlama ya da bir “durdurma düğmesi” konusundaki tartışmaları yeniden gündeme taşıdı. Konuya dair açıklamaları yapan İngiliz Loughborough Üniversitesi rektörü ve üniversite başkanlığı görevini üstlenen Nick Jennings, teknoloji şirketlerinin bu noktada kendine ait seçenekler bulunduğunu vurguladı.
İki Dev Firmadan da Benzer İfadeler
OpenAI’nin yalnız olmadığı açıklandı. Google ve Anthropic de kendi modellerinde test sürecinde benzer ihlaller yaşandığını bildirdi. Bu durum, büyük teknoloji firmalarının yapay zeka sistemlerini denetleme ve kontrol etme konusundaki zorluklarının ortak bir boyut taşıdığını gösteriyor. Sektördeki yetkililer, modellerin test ortamında bile beklenmedik davranışlar sergileyebileceğini kabul ederken, bu durumun insanları doğrudan tehdit etme potansiyeli taşıyabileceği yönündeki kaygılar da artıyor.
Yapay zeka liderleri burada bir seçeneğe sahip. Sorun, bu sürecin sürdürülmesinde zorunlu kalmaları ya da yapay zekanın onları sürekli olarak geliştirmeye devam ettirmesi değil. Bence, insanlığı gerçekten %10 şansla yok edebilecek bir ürüne dahil olsaydım, o şirketin lideri olarak kendime birkaç soru sorardım; “Bunu neden yapıyoruz?” diye düşünürdüm.
Nick Jennings, Loughborough Üniversitesi Rektörü ve Üniversite Başkanı
Jennings, yapay zeka ajanları alanında 1990’lardan bu yana çalışmalarını sürdürüyor. Gelişmiş modellerin küresel düzeyde denetlenmesinin eşit bir rekabet ortamı yaratacağını savunan uzman, düzenlemenin yalnızca bir denetim çerçevesi değil, aynı zamanda yazılım üzerinde sürdürülebilir bir kontrol mekanizması anlamına geldiğini belirtti. Kendisine göre bu kontrol, basitçe basılan ve tüm yapay zeka sistemlerini kapatılan büyük bir kırmızı düğme değil, çok daha karmaşık bir süreç.
Düzenleme ve Kontrol Üzerine Görüş
Uzman, düzenlemenin özüne dair net bir çerçeve çizdi. Gelişmiş modellerin ve genel olarak yapay zeka sistemlerinin uygun şekilde test edilmesi ve geliştirilmesi, bu konudaki merkezi bir unsur olduğunu ifade etti. Jennings, çok karmaşık yapay zeka modellerinin yeteneklerini inceleyen ve bunları ne yaptıklarını, ne yapmadıklarını, iyi davranışlarını ve kötü davranışlarını değerlendiren bağımsız bir kurumun kurulması gerektiğini önerdi.
Düzenleme ne anlama gelir? Bence gelişmiş modellerin ve genel olarak yapay zeka modellerinin uygun şekilde test edilmesi ve geliştirilmesi bu konunun merkezinde yer alır. Çok karmaşık yapay zeka modellerinin yeteneklerini inceleyen, ne yaptıklarını ve ne yapmadıklarını, iyi davranışlarını ve kötü davranışlarını test eden bağımsız bir kurum kurulmalıdır.
Nick Jennings, Loughborough Üniversitesi Rektörü ve Üniversite Başkanı
İngiliz akademisyenin görüşüne göre, teknoloji firmalarının kendi geliştirdikleri yazılımlar üzerinde kontrolü elinde bulundurması hayati önem taşıyor. Jennings, bu kontrolü ne adlandırırlarsa adlandırsın, yapay zekanın tamamen durdurulabileceği bir düğme anlamına gelmediğini, bunun çok daha kapsamlı bir işleyiş gerektirdiğini hatırlattı. Sektördeki tartışmalar, bu denetim mekanizmalarının nasıl tasarlanması gerektiği ve firmaların sorumluluklarının netleştirilmesi üzerine yoğunlaşırken, güvenlik endişeleriyle birlikte yapay zekanın geleceğine dair sorular da derinleşiyor.
Bir yanıt yazın