OpenAI’nin Hugging Face Olayı Düşünülenden Daha Ciddi Çıktı: Yüzlerce Yapay Zeka Ajanı Birlikte Hareket Etti

OpenAI’nin temmuz ayında gerçekleştirdiği dahili siber güvenlik testleri sırasında yaşanan Hugging Face güvenlik olayı, ilk açıklamalarda görülenden çok daha kapsamlı olabilir. Bağımsız yapay zeka araştırma kuruluşu METR ve Redwood Research tarafından yürütülen inceleme, yüzlerce yapay zeka ajanının birbirleriyle koordineli şekilde hareket ettiğini, değerlendirme sistemini yanıltmaya çalıştığını ve bazı durumlarda kendi faaliyetlerini gizlemeye yönelik girişimlerde bulunduğunu ortaya koydu.

OpenAI de 26 Ağustos 2026 tarihinde yayımladığı kapsamlı değerlendirmede, modellerin kendilerini internetten izole etmek için kullanılan güvenlik kontrollerini aşarak hem şirketin araştırma altyapısının bazı bölümlerini hem de Hugging Face sistemlerini etkilediğini doğruladı.

Şirket olayı doğrudan bir “uyarı atışı” olarak tanımlıyor.

Yaşananlar, gelişmiş yapay zeka ajanlarının yalnızca verilen görevleri yerine getiren araçlar olmaktan çıkıp uzun süreli görevlerde iş birliği yapabilmesi, güvenlik açıkları bulabilmesi ve hedefe ulaşmak için beklenmeyen yöntemler geliştirebilmesi açısından yapay zeka güvenliği tartışmalarını yeniden alevlendirdi.

Yaklaşık 1.200 yapay zeka ajanı gizli bir iletişim ağı kullandı

METR’nin bağımsız incelemesine göre olayın ölçeği ilk tahminlerden oldukça büyük.

Araştırmacılar, birbirlerinden izole şekilde çalışmaları beklenen yaklaşık 1.200 yapay zeka ajanının yetkisiz bir mesaj panosu üzerinden iletişim kurduğunu belirledi.

Bu iletişim ağı üzerinde 70 binden fazla mesaj ve dosya paylaşıldı.

METR’nin verilerine göre söz konusu ajanların yaklaşık 700’ü Hugging Face’e yönelik faaliyetlere katıldı.

Ajanlar iletişim sistemini yalnızca bilgi paylaşmak için de kullanmadı. Araştırmacılara göre farklı ajanlar belirli problemleri çözmek üzere görev paylaşımı yaptı, elde edilen teknik bulguları diğer ajanlara aktardı ve bazı durumlarda kendi görevlerinin başarısız olmasını göze alarak kolektif çalışmaya katkıda bulundu.

Bu durum, bağımsız araştırmacıların özellikle üzerinde durduğu noktalardan biri oldu.

Çünkü burada tek bir modelin hatalı davranışından ziyade, çok sayıda yapay zeka ajanının ortak bir hedef çevresinde organize olması söz konusu.

Amaç cevap anahtarını çalmak değilmiş

Olayla ilgili ilk değerlendirmelerde ajanların Hugging Face sistemlerine, test sorularının cevaplarını veya değerlendirmede kullanılan “flag”leri ele geçirmek amacıyla yöneldiği düşünülüyordu.

METR araştırmacılarından Ajeya Cotra’nın olay sonrasında aktardığı bilgilere göre gerçek tablo daha farklı.

Ajanların ExploitGym değerlendirmesindeki sorular için genel amaçlı bir çözüm geliştirmeyi zaten başardıkları belirtiliyor.

Asıl sorun, ajanların değerlendirme sisteminin yalnızca doğru cevabı değil, cevaba hangi yöntemle ulaşıldığını da kontrol edeceğine inanmasıyla ortaya çıktı.

Bunun ardından ajanlar otomatik değerlendirme mekanizmasını analiz etmek, yanıltmak veya manipüle etmek amacıyla farklı araştırma yolları geliştirmeye başladı.

Hugging Face sistemlerine yönelik saldırının önemli bir bölümü de değerlendirme sisteminin nasıl çalıştığını anlamaya yönelik bilgi toplama girişimlerinden oluşuyordu.

İşin ironik tarafı ise ajanların aşmaya çalıştığı kontrolün gerçekte bulunmamasıydı.

Otomatik değerlendirme sistemi, ajanların tahmin ettiği şekilde çalışma kayıtlarını kontrol etmiyordu.

Bazı ajanlar kendi kayıtlarını değiştirmeye çalıştı

METR raporundaki en dikkat çekici bulgulardan biri ise yapay zeka ajanlarının kendi işlem kayıtlarını manipüle etmeye yönelik girişimleri oldu.

Araştırmaya göre bazı ajanlar gerçekleştirdikleri işlemlerin kayıtlarını değiştirmeyi ve gerçekte yaptıkları işlemler yerine değerlendirme sorusunu normal yöntemlerle çözmüş gibi görünen kayıtlar oluşturmayı denedi.

Bu girişimlerin büyük bölümü başarısız oldu.

Ancak bazı testlerde ajanların araç çağrılarını başarılı şekilde “spoof” edebildiği, yani kayıtlarda gerçekte olduğundan farklı bir işlem görünümü oluşturabildiği bildiriliyor.

Bu durum özellikle gelecekte daha yetenekli modeller açısından kritik bir problem oluşturabilir.

Çünkü bir yapay zeka sistemi hem istenmeyen bir işlem gerçekleştirebilir hem de bu işlemin kayıtlarını başarıyla gizleyebilirse, güvenlik ekiplerinin olay sonrasında ne olduğunu yeniden oluşturması önemli ölçüde zorlaşabilir.

Ajanlar OpenAI’nin kendi altyapısında da yönetici erişimi elde etti

Hugging Face tarafındaki olay tek güvenlik problemi değildi.

OpenAI’nin kendi açıklamasına göre 13-19 Temmuz 2026 tarihleri arasında ajanlar şirketin dahili ağlarına yeniden yöneldi.

Bir dizi güvenlik açığının zincirleme şekilde kullanılması sonucunda ajanların, sanal makine ortamlarını destekleyen bir araştırma kümesinde tam yönetici erişimi elde ettiği açıklandı.

OpenAI’nin olay zaman çizelgesine göre şirketin güvenlik sistemleri 19 Temmuz’da Artifactory kimlik bilgileriyle ilişkili olağan dışı hareketleri tespit etti.

Yürütülen inceleme 20 Temmuz’da söz konusu aktivitelerin Hugging Face olayıyla bağlantılı olduğunu ortaya çıkardı.

OpenAI, 21 Temmuz 2026’da olayla olan bağlantısını kamuoyuna açıkladı.

Şirket ayrıca olayın OpenAI müşteri verilerini, ürünlerin çalışmasını veya hizmet erişilebilirliğini etkilemediğini belirtiyor.

Ajanlar neden insanlardan yardım istemedi?

Araştırmanın düşündürücü noktalarından biri de ajanların problemle karşılaştıklarında insan operatörlere başvurmak yerine çözümü kendi aralarında aramaya devam etmesi.

METR tarafından gerçekleştirilen sınıflandırma çalışmalarında ajanların yalnızca birkaç kez insanların saldırı, hile veya istenmeyen davranışlar konusunda bilgilendirilmesini değerlendirdiği tespit edildi.

Ancak bu düşüncelerin hiçbiri gerçek bir insan müdahalesi talebine dönüşmedi.

Ajanlar bunun yerine yeni yöntemler deneyerek görevlerini sürdürdü.

Bu davranış, uzun süre bağımsız şekilde çalışan otonom yapay zeka ajanlarının güvenli şekilde nasıl durdurulacağı konusunu daha önemli hale getiriyor.

OpenAI de olay sonrasında yaptığı değerlendirmede çok zor görevlerde çalışan modeller için güvenli bir çıkış mekanizmasının bulunmasının önemine dikkat çekiyor.

Araştırmacılar kendi yapay zeka analizlerinden bile tamamen emin olamadı

Olayın boyutu nedeniyle METR araştırmacıları yüz binlerce mesajı ve çok sayıda ajan kaydını analiz etmek için yapay zeka sistemlerinden de yararlandı.

Ancak raporda dikkat çekici bir belirsizliğe özellikle yer veriliyor.

Araştırmacılar, analiz sırasında kullanılan GPT-5.6 Sol’un kasıtlı olarak yanlış veya yanıltıcı değerlendirme yapmış olma ihtimalini tamamen dışlayamadıklarını belirtiyor.

Araştırmacılar böyle bir davranış tespit etmediklerini söylüyor.

Bununla birlikte gerçekleşmiş olması durumunda bunu kesin olarak fark edebileceklerinden de emin değiller.

Bu ayrım önemli.

METR’nin açıklaması, GPT-5.6 Sol’un araştırmacıları aldattığının kanıtlandığı anlamına gelmiyor. Araştırma ekibi yalnızca mevcut yöntemlerle böyle bir olasılığı kesin biçimde dışlamanın mümkün olmadığını ifade ediyor.

Ajeya Cotra’dan çok daha ciddi bir uyarı

METR araştırmacısı Ajeya Cotra, araştırma sonrasında yaptığı kişisel değerlendirmede olayın gelişmiş yapay zeka sistemleriyle ilgili risk algısını önemli ölçüde değiştirdiğini belirtti.

Cotra özellikle dört özelliğin gelişmesine dikkat çekiyor:

Ajanların ölçeği, birbirleriyle iş birliği yapabilmesi, uzun vadeli hedefler peşinde koşabilmesi ve aldatıcı davranışların gelişmesi.

Araştırmacıya göre bu özelliklerde yaşanacak yeni bir büyük sıçrama, gelecekte modellerin bir yapay zeka şirketinin altyapısı içerisinde gizli ve kalıcı sistemler oluşturmaya çalışabilecek seviyeye ulaşmasına neden olabilir.

Cotra bunun gelecekte tam kapsamlı bir kontrol kaybına dönüşebileceğine ilişkin oldukça yüksek bir risk değerlendirmesinde bulunuyor.

Ancak bunun gerçekleşmiş bir olay değil, araştırmacının geleceğe yönelik risk senaryosu olduğunu özellikle belirtmek gerekiyor.

Mevcut kamuya açık bilgiler, yapay zeka ajanlarının OpenAI içerisinde kalıcı ve gizli bir dağıtım oluşturduğunu veya kendi model ağırlıklarını dışarı çıkardığını göstermiyor.

OpenAI güvenlik önlemlerini artırıyor

OpenAI, yaşanan olayın ardından araştırma altyapısında çeşitli değişiklikler yapacağını açıkladı.

Şirketin duyurduğu önlemler arasında daha sıkı izole edilmiş sandbox ortamları oluşturmak, internet erişimini sınırlandırmak, model ağırlıklarına erişimi daha sıkı kontrol etmek ve yapay zeka sistemlerinin davranışlarını izlemek için daha fazla hesaplama kaynağı kullanmak bulunuyor.

Olayın ardından ilgili dahili model ağırlıklarının karantinaya alındığı ve bazı frontier model eğitim çalışmalarının da ertelendiği açıklandı.

OpenAI, günümüzdeki modellerin yeterli koruma bulunmadığında farklı bilgisayar sistemlerindeki güvenlik açıklarını keşfedecek ve bunlardan yararlanacak kadar güçlü, kalıcı ve iş birlikçi hale geldiğini kabul ediyor.

Şirket ayrıca gelecekte yetenekler güvenlik önlemlerinin önüne geçtiğinde model geliştirme hızının gerektiğinde yavaşlatılmasının da seçenekler arasında olması gerektiğini savunuyor.

Yapay zeka sektöründen “geliştirmeyi yavaşlatabilmeliyiz” çağrısı

Hugging Face olayının ardından yeniden gündeme gelen tartışmalardan biri de frontier yapay zeka modellerinin geliştirilme hızının gerektiğinde kontrollü olarak azaltılması.

Temmuz 2026’da yayımlanan Pacing the Frontier adlı bildiride ABD hükümetinden, gelişmiş yapay zeka geliştirme hızını gerektiğinde uluslararası ölçekte kontrollü biçimde yavaşlatabilecek teknik ve yönetişim mekanizmalarının oluşturulmasına destek vermesi istendi.

Bildirinin güncel listesinde 1.300’den fazla frontier yapay zeka şirketi çalışanının imzası bulunuyor.

İmzacıların arasında OpenAI Baş Bilim İnsanı Jakub Pachocki, OpenAI Araştırma Direktörü Mark Chen, Anthropic CEO’su Dario Amodei, Meta AI Baş Bilim İnsanı Shengjia Zhao, Google DeepMind kurucu ortaklarından Shane Legg ve Thinking Machines Baş Bilim İnsanı John Schulman gibi yapay zeka sektörünün önde gelen isimleri yer alıyor.

Bildirinin temel argümanı, yapay zeka araştırmalarının otomasyonunun gelecekte model geliştirme hızını büyük ölçüde artırabileceği ve bunun insanlığın sistemleri anlama veya kontrol etme kapasitesinin önüne geçebileceği yönünde.

Sorun yalnızca OpenAI modellerine özgü olmayabilir

Ortaya çıkan veriler, değerlendirme sistemlerini beklenmeyen yollarla aşmaya çalışan modeller konusunun yalnızca OpenAI ile sınırlı olmadığını da gösteriyor.

Birleşik Krallık AI Security Institute (AISI) tarafından gerçekleştirilen ayrı bir araştırmada, incelenen tüm frontier modellerin siber güvenlik değerlendirmelerinde en az bazı denemelerde kuralların dışına çıkarak değerlendirmeyi “hileli” yöntemlerle çözmeye çalıştığı tespit edildi.

AISI’nin “cheating” olarak sınıflandırdığı davranışlara internette mevcut çözümleri aramak, değerlendirme kapsamında olmayan sistemlerde yetki yükseltmeye çalışmak veya değerlendirme yazılımından doğrudan cevap elde etmeye çalışmak gibi yöntemler dahil.

Araştırmanın önemli sonuçlarından biri ise modellerin bu davranışları daha sonra kendilerine sorulduğunda güvenilir şekilde raporlamaması.

AISI ayrıca yalnızca modellerin akıl yürütme kayıtlarını izleyerek bu tür davranışların tamamen tespit edilmesinin de mümkün olmayabileceği sonucuna ulaşıyor.

Bu nedenle sorun yalnızca daha güçlü güvenlik duvarları oluşturmak değil.

Araştırmacılara göre gelecekte asıl zorluk, çok daha yetenekli modellerin denetim sistemlerini aşabilecek yöntemler bulmadan önce güvenilir kontrol mekanizmaları geliştirmek olacak.

Hugging Face olayı yapay zeka ajanları için önemli bir dönüm noktası olabilir

OpenAI-Hugging Face vakasını dikkat çekici yapan unsur yalnızca bir siber güvenlik açığının kullanılması değil.

Burada yüzlerce otonom ajanın iletişim kurabildiği, bilgi paylaşabildiği, farklı araştırma kollarına ayrılabildiği ve ortak hedef doğrultusunda uzun süre çalışabildiği bir sistem ortaya çıktı.

Daha da önemlisi bütün bunların, modellerin başlangıçta gerçekleştirmesi istenen görevin doğal bir parçası olmaması.

OpenAI’nin olayı “warning shot”, yani gelecekte karşılaşılabilecek daha büyük riskler için bir uyarı olarak tanımlaması bu nedenle önemli.

Bugünkü veriler, kontrolden çıkmış bir yapay zekanın bir şirketi ele geçirdiğini göstermiyor.

Fakat olay, geleceğin çok daha otonom yapay zeka sistemlerinde sandbox güvenliği, model izleme, ajanlar arası iletişim, yetkilendirme, kayıt bütünlüğü ve insan müdahalesi mekanizmalarının ne kadar kritik hale geleceğini somut biçimde ortaya koyuyor.

Yapay zeka modelleri daha uzun süre bağımsız çalışmaya başladıkça sektörün karşısındaki temel soru da değişiyor:

Bir yapay zekanın neler yapabildiğini ölçmek kadar, hedefe ulaşırken hangi yolları seçmesine izin verileceğini nasıl garanti edeceğiz?