İçeriğe geç
18 Kasım 2026, Çarşamba
İstanbul 16° BIST 13.268,80 USD 48,83 EUR 55,72
Editör masası Forum

Yapay Zeka Düzenlemesi Dünyanın En Tehlikeli Sektörlerinden Ne Öğrenebilir?

Keir Starmer döneminde başbakanın eski genel sekreteri olan Milletvekili Darren Jones, yakın zamanda süperzekanın (yapay zekanın çoğu bilişsel görevde…

Son güncelleme: 18 Kasım 2026, 12:56
Yapay Zeka Düzenlemesi Dünyanın En Tehlikeli Sektörlerinden Ne Öğrenebilir?

Keir Starmer döneminde başbakanın eski genel sekreteri olan Milletvekili Darren Jones, yakın zamanda süperzekanın (yapay zekanın çoğu bilişsel görevde insanları önemli ölçüde aştığı durum) güvenli bir şekilde geliştirilmesini ve kullanılmasını yönetecek yeni bir çok uluslu anlaşma çağrısında bulundu.

Jones ayrıca, İngiltere’nin yapay zeka güvenliği ve güvenilirliği alanındaki artan itibarının, bu tür bir işbirliği için uygun bir kanal oluşturduğunu belirtti.

Bu müdahalede beni en çok ilgilendiren konu, yapay zekanın insanlık için bir tehdit oluşturup oluşturmayacağı değil, bunun altında yatan yönetim ve organizasyon sorusuydu: “Yönetim sistemlerimiz, yapay zeka zekasının gelişimine ayak uydururken aynı zamanda güvenliğini de sağlayabilir mi?”

BayHaber sitesini Google’da tercih edilen kaynak olarak seç

Tarihte bir dönemeçteyiz: Küresel teknoloji liderleri ve bazı çalışanları, yapay zekanın önümüzdeki on yıl içinde tüm insanlığı öldürme olasılığının %10’dan fazla olduğuna inanıyor. Ancak insanlar hâlâ yapay zekanın potansiyel sonuçlarını anlamakta zorlanıyor; bunu anladığımızda ise harekete geçmek için çok geç olabilir.

Yine de bu tahmini, mevcut risklerden ve yapay zeka sistemlerinin kendi kendine gelişme (tam özyinelemeli kendini geliştirme) yeteneğine ulaşıp süperzeka yönüne ilerlemesiyle ortaya çıkabilecek durumlardan ayırmak gerekiyor.

Çok uluslu bir anlaşma ve İngiltere’nin bu alanda öncü bir rol üstlenmesi çağrılarını destekliyorum. Bir iş araştırmacısı olarak, bazı işletme okullarının araştırmalarının, karmaşıklığı, hızı ve özerkliği anlama kapasitemizden daha hızlı artan sistemlerin nasıl yönetileceği konusunda bize yol gösterebileceğine de inanıyorum.

Bu, acil haber ya da temelsiz bir görüş değil.

Bu konu, nükleer enerji ve havacılık gibi yüksek riskli sektörlerde aşina olduğumuz bir alan. Burada iki teori özellikle geçerli: Amerikalı sosyolog Charles Perrow ile ilişkilendirilen “normal kaza teorisi” ve Amerikalı siyaset bilimci Todd LaPorte’nin çalışmalarıyla bilinen “yüksek güvenilirlik teorisi”. Bu iki teori bir araya geldiğinde, yapay zeka güvenliği ve düzenlemesi için güçlü bir çerçeve sunabilir.

Normal kaza teorisi rahatsız edici bir varsayımla başlar: Nükleer santraller veya insan taşıyan uzay araçları gibi karmaşık ve birbirine bağlı sistemlerde kazalar, mutlaka bireysel beceriksizlik, ihmal veya kötü tasarımdan kaynaklanmaz. Bunlar, birden fazla bileşenin öngörülemeyen etkileşimlerinden de ortaya çıkabilir.

Bu tür sistemlerde olaylar hızla gelişir. Beklenmedik bir durum meydana geldiğinde, bir arıza ile bir sonraki arasında müdahale için çok az zaman kalabilir. Bu da zincirleme hatalara ve potansiyel bir felakete yol açabilir. Sıkça örnek gösterilen olay, 1978’de ABD’nin Pensilvanya eyaletindeki Three Mile Island nükleer santralinde yaşanan kısmi erime kazasıdır. Bu kaza, mekanik arızalar, enstrüman hataları ve insan faktörlerinin birleşimi sonucu meydana geldi.

Böyle karmaşık bir sisteme yapay zeka ajanları eklendiğinde riskler daha da artar. Yapay zeka ajanları, talimatlara yanıt olarak görevleri yerine getiren sistemlerdir. Örnek olarak finansal sistemler, yazılım geliştirme sistemleri, laboratuvarlardaki bilimsel veritabanları veya çok sayıda ajanı birbirine bağlayan sistemler verilebilir.

Bu tür herhangi bir sistemde, tek bir bileşen – yapay zeka ajanı da dahil olmak üzere – kabul edilebilir kalite standartlarını karşılayabilir; asıl zorluk, bu bileşenler arasındaki etkileşimleri ve bu etkileşimlere dair anlayışımızı kavramaktır. Sorunun bir parçası da ajanların davranışlarının öngörülemez olabilmesidir: Son raporlar, yapay zeka ajanlarının geliştiricilerinin beklemediği şekillerde davrandığını gösterdi.

İngiltere hükümeti, giderek daha yetenekli hale gelen yapay zeka ajanlarıyla ilişkili riskleri vurguladı ve sınır teknolojilerindeki yapay zeka modellerinin test edilmesi ile yeteneklerinin bilimsel olarak anlaşılması gerektiğini belirtti.

Eğer yapay zeka sistemleri daha özerk, daha bağlantılı ve daha hızlı hale gelirse, büyük hataları düzeltmek için kullanılan geleneksel “insan döngüde” anlayışı giderek zorlaşabilir.

Kaderimiz kendi eylemlerimiz midir?

Yüksek güvenilirlik teorisi buna bir karşıt görüş sunar. Bu yaklaşım, nükleer santraller, uçak gemileri ve hava trafik kontrolü gibi arızası felaketle sonuçlanabilecek teknolojileri kullanan organizasyonlar üzerine yapılan araştırmalardan doğdu.

Temel görüşü, normal kaza teorisinin kötümser yaklaşımının tam tersidir: Organizasyonlar, son derece karmaşık teknolojileri çok düşük arıza oranlarıyla kullanmalarını sağlayacak uygulamalar ve kültürler geliştirebilir. Nitekim bunu elektrik sistemi, uzay yolculuğu ve biyomühendislikte gördük.

Air traffic control.

Bu organizasyonlar yüksek güvenilirliğe ulaşır çünkü temel varsayımları, sistemlerinin güvenli olmadığı yönündedir. Daha büyük sorunların ilk belirtilerine karşı dikkatli kalır, anormallikleri otomatik olarak göz ardı etmez, neredeyse meydana gelecek kazalardan ve başarısızlıklardan ders çıkarır ve yedeklilik oluşturur – örneğin, çevrimdışı sistemleri yedekleyerek ve acil durdurma mekanizmaları sağlayarak.

Yapay zeka sektörü, hava trafik kontrolü gibi alanlardaki yüksek güvenilirlikli organizasyonlardan ders alabilir.
Wulan by Wulandari / Shutterstock

Bu organizasyonlar düzenli olarak başarısızlık senaryolarını prova eder, operasyonel süreçler oluşturur, güvenlik ve güvence düzenlemelerine uyar, profesyonel standartları ve sertifikasyon programlarını takip eder ve bağımsız denetime tabidir. Yüksek güvenilirlikli organizasyonlar, uzmanlara kararları sorgulama yetkisi verir ve performanslarından sürekli olarak öğrenirler.

Bu, yapay zeka yönetimi hakkında çok farklı bir düşünce tarzı sunar. Basitçe “Yapay zekayı nasıl düzenleriz?” diye sormak yerine, “Yapay zeka tüm yapısına entegre edilmişse, yüksek güvenilirlikli bir organizasyon nasıl görünürdü?” diye sormalıyız.

Bu, yapay zeka güvenliğinin, bir sistemin kullanıma alınmadan önce tek seferlik teknik bir testi geçmesiyle sınırlı kalamayacağını gösterir. Güvenlik, farklı organizasyonları kapsamalı ve uluslararası sınırları aşmalıdır.

İşte bu noktada, yapay zeka düzenlemesi hakkındaki mevcut siyasi tartışma dar kalma riski taşıyor. Hükümetlerin, sınır teknolojilerindeki laboratuvarların ne geliştirdiğini anlaması gerekiyor. Ancak hükümetin her yapay zeka şirketinin içinde sürekli bulunup her modeli denetlemesi gerçekçi değil.

Aynı şekilde, yasalar da yapay zekanın alabileceği her teknik yapıyı öngöremez. İngiltere hükümeti, yapay zekada güvenilirliği güvence yoluyla oluşturması gerektiğini kabul ediyor.
Güvence, bir sistemin tanımlanmış sınırlar içinde davrandığına dair güvenilir kanıtların olup olmadığını, bu sınırların uygun olup olmadığını, risklerin izlenip izlenmediğini ve bu sınırların aşıldığında birinin sorumlu olup olmadığını sorgular.

Uçak endüstrisinin mühendislik standartları, sertifikasyon sistemleri, profesyonel yeterlilikler, bağımsız denetim, olay bildirim mekanizmaları ve düzenleyici denetimi vardır.

Nükleer enerji, kapsamlı bir güvenlik mühendisliği ve düzenleyici güvence ekosistemi içinde faaliyet gösterir. Finans kurumları ve tıp da gelişmiş güvence sistemlerine sahiptir.

Yapay zeka giderek daha fazla sonuç doğurur hale geliyor, ancak güvence altyapısı hâlâ nispeten olgunlaşmamış durumda. Bu durum, sınır teknolojilerindeki sistemlerin gelişme hızı göz önüne alındığında özellikle çarpıcıdır. Kurumsal zorluk, sadece daha fazla yapay zeka düzenlemesi üretmek değil, düzenlemeyi anlamlı kılan profesyonel bir güvenlik kültürü oluşturmaktır.

Süperzekanın güvenli ve düzenlenmiş bir şekilde geliştirilmesine yönelik potansiyel yeni bir çok uluslu anlaşma, yapay zeka güvenliğini hızla değişen küresel bir zorluk olarak çerçeveler. Aynı zamanda, İngiltere için yapay zeka yönetiminin gelişmekte olan mimarisini şekillendirmede nesilde bir gelen bir fırsat yaratır.

Bu makalede, editoryal nedenlerle dahil edilen kitaplara atıflar bulunmaktadır ve kitapshop.org’a yönlendiren bağlantılar içerebilir; bu bağlantılardan birine tıklayıp bir ürün satın alırsanız, The Conversation UK komisyon kazanabilir.

İlginizi Çekebilir: Claude Code ile Top Gun Kanyonu Yeniden Canlandırıldı: Hangi Öncü LLM’ler Maverick’i Geçebilir? →
Kaynak: The ConversationKaynak yazarı: Palie Smart
💬 Topluluk Masası & Tartışma

Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.

Foruma Katıl & Yanıtla ➔
Forumda sor / tartış
BayHaber Arama

Hangi konuyu araştırıyorsunuz?

En az 3 karakter yazın.

Tüm Bölümler

BayHaber’i keşfedin

Okuma görünümü

BayHaber’i nasıl okumak istersiniz?

Seçiminiz bu tarayıcıda saklanır. İki gazete görünümü görselleri ve sayfa ritmini basılı yayın hissine yaklaştırır.