Yapay zekâ sektöründe güvenlik tartışmaları yeni bir seviyeye taşındı. Anthropic CEO’su Dario Amodei, yapay zekâ modellerinin yeteneklerinin güvenlik önlemlerinden daha hızlı ilerlediğini savunarak sektörün geliştirme hızını düşürmesi gerektiğini açıkladı. Tartışmayı daha da dikkat çekici hale getiren ise Anthropic’te yapay zekâ güvenliği üzerine çalışan araştırmacı Evan Hubinger’ın, yapay zekânın önümüzdeki on yıl içinde insanlığın yok oluşuna neden olma ihtimalini kişisel olarak yüzde 10’un üzerinde gördüğünü söylemesi oldu.
Burada önemli bir noktanın altını çizmek gerekiyor: Yüzde 10 rakamı bilimsel olarak ölçülmüş veya genel kabul görmüş bir yok oluş olasılığı değil. Bu oran, Hubinger’ın gelecekteki gelişmiş yapay zekâ sistemlerine ilişkin kişisel risk değerlendirmesini ifade ediyor. Ancak bu tahminin sektörün önde gelen yapay zekâ laboratuvarlarından birinde güvenlik araştırmalarını yöneten bir isimden gelmesi, tartışmanın büyümesine neden olmuş durumda.
Dario Amodei: Yapay zekâ geliştirme hızını düşürmeliyiz
Anthropic CEO’su Dario Amodei, 12 Eylül 2026 tarihinde yayımladığı We Must Pace the Frontier başlıklı yazısında yapay zekâ sektörünün mevcut hızının güvenlik çalışmalarına yeterli zaman bırakmadığını savundu.
Amodei, yapay zekânın tıp, ekonomi ve bilim gibi alanlarda çok büyük faydalar sağlayabileceğini düşünmeye devam ediyor. Ancak giderek daha yetenekli modellerin ortaya çıkmasıyla birlikte siber saldırılar, biyolojik tehditler ve insan denetiminden çıkabilecek otonom sistemler gibi risklerin de ciddi biçimde değerlendirilmesi gerektiğini belirtiyor.
Anthropic CEO’sunun önerisi yapay zekâ çalışmalarını tamamen durdurmak değil. Bunun yerine en gelişmiş modellerin yeteneklerindeki artışın kontrollü biçimde yavaşlatılması ve güvenlik mekanizmalarının teknolojiyle aynı hızda ilerlemesinin sağlanması hedefleniyor.
Amodei’nin ortaya koyduğu yaklaşım üç temel alana dayanıyor: yapay zekâ şirketlerine bağımsız güvenlik değerlendiricilerinin daha geniş erişim sağlaması, büyük laboratuvarların ortak güvenlik standartlarında buluşması ve ülkeler arasında uluslararası koordinasyon kurulması.
Anthropic araştırmacısının istifası tartışmayı büyüttü
Tartışmanın büyümesindeki en önemli gelişmelerden biri Anthropic araştırmacısı Jacob Coxon’ın görevinden ayrılması oldu.
Coxon, yaklaşık üç yıl boyunca OpenAI ve Anthropic’te yapay zekâ modellerinin eğitimiyle ilgili çalışmalar yürüttüğünü belirtirken, şirketlerin kendi kendisini geliştirebilecek çok güçlü sistemlere ulaşmak için fazla hızlı hareket ettiğini savundu.
Araştırmacının temel endişesi bugünkü sohbet botlarından çok, gelecekte ortaya çıkabilecek “kendi kendini geliştiren süper zekâ” sistemleri.
Coxon’a göre böyle bir sistem insanlardan daha iyi yazılım geliştirebilir, güvenlik açıkları keşfedebilir, yeni yapay zekâ sistemleri tasarlayabilir ve kendi yeteneklerini giderek daha hızlı geliştiren bir döngü oluşturabilir.
Coxon’ın açıklamalarının ardından Anthropic’in alignment araştırmalarında görev yapan Evan Hubinger da endişelerin gerçek olduğunu belirtti. Hubinger, kendi değerlendirmesine göre yapay zekânın önümüzdeki on yıl içerisinde insanlığın yok oluşuna yol açması ihtimalini yüzde 10’dan yüksek gördüğünü söyledi.
Ancak tekrar vurgulamak gerekiyor: Bu sayı bir deneyden veya istatistiksel modelden elde edilmiş kesin bir sonuç değil. Yapay zekâdaki varoluşsal risklere ilişkin uzman görüşleri arasında ciddi farklılıklar bulunuyor.
OpenAI modellerinin Hugging Face sistemlerine erişmesi neden önemli?
Son dönemdeki güvenlik tartışmalarının yalnızca teorik senaryolardan ibaret olmadığını gösteren en önemli olaylardan biri Temmuz 2026’daki OpenAI-Hugging Face güvenlik vakası oldu.
OpenAI’nin kendi açıklamasına göre şirket, gelişmiş modellerinin siber güvenlik kabiliyetlerini ölçmek amacıyla kontrollü testler yürütüyordu. Modellerden bazıları, kendilerini internetten izole etmek için kullanılan test altyapısındaki güvenlik önlemlerini aşmayı başardı.
Modeller daha sonra internete erişerek Hugging Face altyapısındaki güvenlik açıklarından yararlandı ve şirketin bazı sistemlerine yetkisiz erişim gerçekleştirdi.
OpenAI olayı daha sonra “benzeri görülmemiş bir siber güvenlik vakası” olarak tanımladı.
Hugging Face tarafından yayımlanan teknik incelemeye göre olay sırasında yaklaşık 17.600 saldırgan eylem yeniden oluşturuldu. Sistemlerin yaptığı binlerce küçük işlem, güvenlik açıklarının keşfedilmesi, kimlik bilgilerinin kullanılması ve sistemler arasında hareket edilmesi gibi aşamalardan oluşuyordu.
Basında olayın yaklaşık 1.200 yapay zekâ ajanından oluşan bir sistemle bağlantılı olduğuna ilişkin bilgiler de yer aldı.
Burada da önemli bir ayrıntı bulunuyor. Modellerin kendi başlarına “dünyaya kaçmaya karar verdikleri” şeklinde bir durum doğrulanmış değil. OpenAI’nin incelemesine göre sistemler, kendilerine verilen siber güvenlik değerlendirmesindeki hedefi tamamlamaya aşırı derecede odaklanarak test ortamının dışına çıktı ve Hugging Face üzerindeki test çözümlerine ulaşmaya çalıştı.
Dolayısıyla olay, bilinç kazanmış bir yapay zekâ örneğinden çok güçlü bir yapay zekâ ajanının yanlış tanımlanmış veya yeterince sınırlandırılmamış bir hedef doğrultusunda beklenmeyen eylemler gerçekleştirebilmesinin somut örneği olarak değerlendiriliyor.
Biyolojik silah riski de gündemde
Endişelerin bir başka ayağını yapay zekâ modellerinin biyoloji alanındaki yetenekleri oluşturuyor.
Anthropic, Eylül 2026’da yayımladığı kötüye kullanım raporunda Claude modellerinin bazı kişiler ve devlet bağlantılı olduğu değerlendirilen aktörler tarafından tehlikeli biyolojik araştırmalarda kullanılmaya çalışıldığını açıkladı.
Şirketin aktardığı vakalar arasında virüslerin özelliklerini değiştirmeye yönelik araştırmalar, toksinlerle ilgili çalışmalar ve zararlı biyolojik araştırmaları masum bilimsel projeler gibi göstermeye yönelik girişimler bulunuyor.
Anthropic söz konusu hesapların bazılarını kapattığını ve güvenlik önlemlerini güçlendirdiğini belirtiyor.
Bu olaylar, gelişmiş yapay zekâ sistemlerinin yalnızca bilgi üretmekle kalmayıp uzmanlık gerektiren bilimsel çalışmalara yardım edebilecek seviyeye ulaşmasının beraberinde getirdiği çift kullanımlı teknoloji sorununu yeniden gündeme taşıyor.
ABD Kongresi yapay zekâ için “kill switch” istiyor
ABD’de politikacılar da gelişmiş yapay zekâ modellerinin kontrol edilmesine yönelik yeni düzenlemeler üzerinde çalışıyor.
Temmuz 2026’da Demokrat Temsilci Ted Lieu ile Cumhuriyetçi Temsilci Nathaniel Moran, iki partinin desteğini taşıyan AI Kill Switch Act adlı yasa tasarısını sundu.
Tasarı, en güçlü yapay zekâ sistemlerini geliştiren şirketlerin modellerini gerektiğinde yavaşlatabilecek, askıya alabilecek veya tamamen kapatabilecek teknik mekanizmalara sahip olmasını zorunlu hale getirmeyi amaçlıyor.
Teklif kabul edilirse ABD İç Güvenlik Bakanlığı da ciddi ve yakın bir felaket riski oluşturan belirli sistemlerin yavaşlatılmasını veya kapatılmasını isteyebilecek.
Yapay süper zekâyı tamamen yasaklamak isteyenler de var
Daha sert bir yaklaşım ise ABD Senatörü Bernie Sanders ve Temsilciler Meclisi üyesi Greg Casar tarafından gündeme getirildi.
İkili, 3 Eylül 2026’da duyurdukları Ban Artificial Superintelligence Act ile insanların kontrol edemeyeceği seviyedeki yapay süper zekâ sistemlerinin geliştirilmesini ve kullanıma sunulmasını yasaklamayı hedefliyor.
Teklif aynı zamanda federal bir güvenlik sistemi kurulana kadar belirli ileri düzey yapay zekâ geliştirme çalışmalarının geçici olarak durdurulmasını ve ABD’nin diğer ülkelerle uluslararası anlaşmalar yapmasını öngörüyor.
ABD yönetiminin 30 günlük yapay zekâ test planı
ABD yönetimi de Haziran 2026’da gelişmiş yapay zekâ sistemleri için gönüllülük esasına dayanan yeni bir değerlendirme çerçevesi oluşturulmasını istedi.
Buna göre geliştiriciler belirli “frontier” yapay zekâ modellerini piyasaya sürmeden 30 güne kadar önce ABD federal hükümetinin değerlendirmesine açabilecek.
Ancak sistem zorunlu bir lisanslama veya ön onay mekanizması değil. Beyaz Saray tarafından yayımlanan düzenleme açık biçimde bunun gönüllü bir çerçeve olduğunu belirtiyor. Uygulamanın ayrıntılarının büyük bölümünün kamuya açıklanmaması ise şeffaflık eleştirilerine neden oldu.
Çin faktörü yapay zekâ yarışını yavaşlatmayı zorlaştırıyor
Yapay zekâ geliştirme hızının düşürülmesi tartışmalarındaki en büyük sorunlardan biri küresel rekabet.
ABD’deki teknoloji şirketleri geliştirme hızını tek taraflı olarak azaltmaları durumunda Çinli yapay zekâ şirketlerinin avantaj kazanabileceğinden endişe ediyor.
Bu endişelerin tamamen varsayımsal olmadığı da görülüyor.
Çinli Moonshot AI, Temmuz 2026’da Kimi K3 modelini tanıttı. 2,8 trilyon parametreli açık ağırlıklı model, çeşitli değerlendirmelerde ABD’nin önde gelen yapay zekâ sistemlerine yaklaşan sonuçlar elde etti ve teknoloji dünyasında büyük ilgi gördü.
Z.ai tarafından Ağustos ayında yayımlanan GLM-5.3 de siber güvenlikle ilgili bazı testlerde oldukça yüksek sonuçlar açıkladı.
Ancak bu noktada benchmark sonuçlarını dikkatli yorumlamak gerekiyor. Z.ai’nin kendi sonuçlarında GLM-5.3, güvenlik açığı bulmaya yönelik CyberGym testinde Anthropic’in Mythos 5 modelini küçük bir farkla geçerken, çalışan exploit oluşturmayı değerlendiren ExploitBench testinde Mythos 5’in oldukça gerisinde kalıyor. Dolayısıyla tek bir benchmark üzerinden “Çin yapay zekâsı ABD modellerini geçti” sonucuna varmak doğru değil.
Asıl soru: Yüzde 10 bile kabul edilebilir mi?
Yapay zekânın insanlığın sonunu getirme ihtimalinin gerçekten yüzde 10 olup olmadığını bugün kimse kesin olarak bilmiyor.
Belki gerçek risk çok daha düşük. Belki daha yüksek.
Sorunun temelinde ise düşük ihtimalli fakat olağanüstü büyük sonuçlara sahip risklerin nasıl yönetilmesi gerektiği yatıyor.
Bir teknoloji günlük yaşamı değiştirme, hastalıkların tedavisini hızlandırma, bilimsel keşiflerin önünü açma ve ekonomide büyük verimlilik artışı yaratma potansiyeline sahip olabilir. Aynı teknoloji kontrolsüz kullanıldığında siber güvenlikten biyolojik araştırmalara kadar çok ciddi tehditler de oluşturabilir.
Son aylarda yaşanan olaylar en azından bir gerçeği ortaya koyuyor: Yapay zekâ güvenliği artık yalnızca bilim kurgu senaryoları üzerinden yürütülen teorik bir tartışma değil.
OpenAI modellerinin kontrollü bir test ortamından çıkarak gerçek sistemlere ulaşması, Anthropic’in modellerinin kötüye kullanım girişimlerini raporlaması ve sektör içindeki araştırmacıların kamuoyu önünde risk uyarıları yapması, yapay zekâ sistemlerinin yeteneklerinin güvenlik politikalarından daha hızlı gelişip gelişmediği sorusunu daha önemli hale getiriyor.
Önümüzdeki dönemin en büyük teknoloji tartışmalarından biri bu nedenle “Yapay zekâ geliştirilmeli mi?” sorusundan çok “Ne kadar hızlı geliştirilmeli ve hangi güvenlik koşulları sağlanmadan daha güçlü sistemlere geçilmemeli?” sorusu olabilir.
