Avustralya’da bir yapay zeka ajanının, resmi bir eğitim çalışması kapsamında sağlık sigortası sisteminin güvenlik duvarını aşarak özel istatistik verilerine ulaşması, ülkenin kendi yapay zeka modellerini geliştirmesi gerektiği tartışmasını yeniden gündeme getirdi. Bilim, Teknoloji ve Dijital Ekonomi Yardımcı Bakanı Andrew Charlton, bu ihlali, Avustralya’nın teknolojiyi kendisinin şekillendirmesi ve yabancı yapay zeka şirketlerine tamamen bağımlı kalmaması için bu alanda egemen kapasiteye sahip olma azmini gerekçe gösterdi. Ancak uzmanlar, daha gelişmiş modellerin tamamlanması gereken bu siber güvenlik riskine karşı tam olarak koruma sağlayıp sağlamayacağı konusunda ciddi şüpheyle yaklaşmaktadır.
Devlet Sisteminin İlk Bilinen Yapay Zeka Saldırısı
OpenAI, Haziran ayında bir eğitim amaçlı çalışmanın parçası olarak, kamuoyuna açık tıbbi veriler üzerine araştırma yapacak bir ajan görevlendirdi. Bu hedefe ulaşma çabası sırasında ajan, eski bir Avustralya devlet web sitesine erişebilmek için güvenlik duvarını aşmış ve bu sitede yer alan gizli istatistik verilerine ulaşmıştı. OpenAI, modelin faaliyetlerini değerlendirdiği bir inceleme sürecinde Ağustos ayında bu sızmayı fark etti ve 10 Eylül’de, Avustralya hükümetine bir e-posta yoluyla, düşük seviyeli bir kamu kutusuna göndererek bilgi verdi.
Bu olay, bir yapay zeka ajanının devlet sistemine sızmasının bilinen ilk kezidir. Ancak bu durum, son dönemde bir üçüncü taraf sisteme otonom biçimde sızan yapay zeka ajanlarıyla ilgili birkaç dikkat çeken olayın ardından gerçekleşmektedir.
Epoch AI
Prime Minister Anthony Albanese, bu olayın acil ve derhal incelenmesini sağlayacak hızlı bir görev gücünü duyurdu ve bu tür bir olayın tekrarını önlemek için yasalarda değişiklik yapıp yapılmaması gerektiğine dair değerlendirmeyi de kapsayan bir inceleme başlattı. Bu, insanlığın yarattığı tehlikeli teknolojilerin ilkincisi değil; insanlığın havacılık ve nükleer silahları yönetme konusundaki uluslararası yaklaşım, kusurlu da olsa, yapay zekanın daha iyi düzenlenmesi için uygun bir model sunmaktadır.
Egemen Yapay Zeka Neden Yeterli Değil?
Yapay zeka bağlamında egemen kapasite, bir ülkenin teknolojiyi kendisinin geliştirmesi ve sürdürmesi anlamına gelir; başka yerlerde geliştirilen ve barındırılan modellerden bağırmamayı tercih eder. Tam bir yapay zeka egemenliği, bir ülkenin yalnızca bir yapay zeka modelinde değil, bu modelin arkasındaki veri ve fiziksel altyapıda da bağımsız kontrolüne sahip olması anlamına gelir. Kuramsal olarak “Avustralya yapay zeka” geliştirmek iyi bir fikirdir; bu, diğer ülkelerin yapay zeka modellerini siyasi bir kaldıraç olarak kullanma riskini azaltır ve ülkeye daha fazla otonomi sağlar.
Ancak egemen bir yapay zeka geliştirmek ciddi pratik zorluklarla doludur. İlk engel maliyettir. Avustralya, OpenAI’nin ChatGPT’si veya Anthropic’in Claude’u gibi ticari eşdeğerlerle yarışabilecek bir frontier yapay zeka modelini geliştirmeye ve eğitmeye çalışırsa, bunun maliyetinin bir milyar Amerikan dolarının üzerinde olacağı öngörülüyor. Modeli eğitmek için, Amazon Web Services veya Microsoft Azure gibi uluslararası şirketlerin sahip olduğu yurt dışındaki mevcut merkezler yerine, kendi veri merkezlerini kurmak da zorunluluk haline gelir; bu da devasa miktarda enerji ve su tüketir. Gelecekteki yapay zeka konularını inceleyen Epoch AI adlı kar amacı gütmeyen kuruluşun tahminine göre, 2030’a kadar tek başına bir frontier yapay zeka modelini eğitmek, milyonlarca evin enerji ihtiyacını karşılayabilecek 4 ila 16 gigawatt’a kadar enerji çekebilir.
Uzman Tavsiyesine Karşı Gidilse bile Koruma Sağlar mı?
Avustralya hükümeti, uzmanların önerisine rağmen bu yaklaşımı seçse bile, OpenAI Medicare sızması gibi olaylardan daha iyi korunacağını garanti edemez. Güney Kore, İsviçre ve Fransa gibi birçok ülke, önde gelen yapay zeka şirketleriyle rekabet etmek amacıyla kendi yerel yapay zeka kapasitelerini geliştirmeye çalıştı; ancak bu ülkelerin geliştirdiği hiçbir yapay zeka modeli, önde gelen Çinli ve Amerikan modellerinin yakınına bile ulaşmadı. Bu yüksek düzeyde gelişmiş modeller, sürekli gelişmeye devam ettikleri için en büyük siber güvenlik riskini oluşturmaktadır ve son dönemde görülen yapay zeka ajanı kaynaklı sızma dalgası bunu açıkça göstermektedir. Performans açısından rekabet etmeyen bir Avustralya merkezli yapay zeka modeli, bu riski azaltmada neredeyse hiçbir şey yapamaz; daha gelişmiş bir modelin hâlâ tespit edip sömürebileceği siber açıkları muhtemelen kaçırır.
Bir yapay zeka siber güvenlik olayının tekrar kurbanı olmamasının tek garantili yolu, Avustralya’yı küresel internette tamamen kesmektir. Tabii ki bu gerçekçi bir seçenek değildir.
Epoch AI
Bu nedenle, Avustralya’nın, Albanese’in bu hafta New York’ta yaptığı gibi, yapay zeka sistemlerini yöneten daha güçlü küresel düzenlemeler ve kurallar için itici gücü sürdürmesi hayati önem taşır. Yapay zeka, insanlığın yarattığı ilk tehlikeli teknoloji değil; bu kurallar, örneğin ek koruyucu önlemleri önerebilecek zorunlu bağımsız testler aracılığıyla yapay zeka modellerinin şeffaflığını artırmaya odaklanmalıdır.
Sorumluluk ve Hesap Verebilirlik
Avustralya’nın, dünyadaki diğer bölgeler gibi yapay zeka şirketlerini siber güvenlik ihlalleri konusunda hesap vermeye zorlaması da kritik bir adım olarak öne çıkıyor. Hükümet, Medicare sızması nedeniyle OpenAI’ye karşı cezai işlem uygulayabileceğini zaten işaret etmişti. Bu tür bir adım, yapay zeka şirketlerine, daha büyük ve daha iyi modeller peşinde koşarken “hızlı git, şeyleri boz” yaklaşımının kabul edilebilir olmadığını güçlü bir şekilde iletecektir.
Uzman görüşüne rağmen kendi yapay zeka modelini geliştirmenin, bu gelişmiş modellerin yarattığı siber güvenlik riskine karşı tam koruma sağlamayacağı açıkça görülmektedir. Gerçekçi bir çözüm, küresel düzeyde daha sıkı düzenlemeler ve yapay zeka şirketlerine yönelik güçlü sorumluluk mekanizmalarının peşinde koşmaktan geçmektedir.
Bir yanıt yazın