Yapay zekânın giderek daha yetenekli hale gelmesi, teknoloji dünyasında artık yalnızca yeni özellikler ve üretkenlik artışı üzerinden tartışılmıyor. Yapay zekânın insan kontrolünden çıkması, kötü niyetli kişiler tarafından kullanılması ve kritik sistemlerde büyük ölçekli sorunlara yol açması da sektörün en önemli tartışma başlıkları arasına girmiş durumda.
Son dönemde bazı yapay zekâ araştırmacıları, gelişmiş sistemlerin oluşturabileceği risklerin insanlığın geleceğini dahi tehdit edebileceğini savunuyor. İngiliz The Independent gazetesi ise dikkat çekici bir deney yaparak yapay zekâ destekli bir tahmin sistemine şu soruyu yöneltti:
“Yapay zekânın önümüzdeki 10 yıl içinde insanlığın yok olmasına neden olma ihtimali nedir?”
Noah Predict adlı yapay zekâ destekli tahmin sisteminin ulaştığı sonuç ise yüzde 0,85 oldu.
Başka bir ifadeyle sistem, yapay zekâ nedeniyle insanlığın gelecek 10 yıl içinde yok olma ihtimalini yaklaşık 118’de 1 olarak hesapladı.
Ancak burada önemli bir ayrıntı bulunuyor: Bu oran bilimsel olarak ölçülmüş veya kanıtlanmış bir “yok oluş olasılığı” değil. Haber kuruluşunun kullandığı tahmin sisteminin çok sayıda veri, haber ve risk göstergesini değerlendirerek oluşturduğu model tabanlı bir tahmin niteliğinde.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Bazı Yapay Zekâ Uzmanları Riski Çok Daha Yüksek Görüyor
Yüzde 0,85’lik tahmin, yapay zekâ sektöründeki bazı araştırmacıların kişisel risk değerlendirmelerinden oldukça düşük.
Anthropic’te çalışan ve daha önce OpenAI’de görev yapan yapay zekâ araştırmacısı Jacob Coxon, şirketten ayrılmasının ardından yaptığı açıklamalarda gelişmiş yapay zekâ sistemlerinin oluşturduğu tehlikelere dikkat çekmişti.
Coxon, sektörde çalışan bazı kişilerin yapay zekânın on yılın sonuna kadar insanlık için ölümcül sonuçlara yol açabileceğine gerçekten inandığını belirtmişti.
Yapay zekâ güvenliği alanında çalışan Evan Hubinger ise kendi değerlendirmesinde, önümüzdeki 10 yıl içerisinde yapay zekâ kaynaklı insanlığın yok oluşu ihtimalini yüzde 10’un üzerinde gördüğünü ifade etti.
Yapay zekânın öncülerinden biri olarak kabul edilen ve 2024 Nobel Fizik Ödülü’nü alan Geoffrey Hinton da geçmiş açıklamalarında gelişmiş yapay zekânın uzun vadede insanlık açısından ciddi risk oluşturabileceği konusunda uyarılarda bulunmuştu.
Dolayısıyla sektörde bu konuda ortak kabul görmüş tek bir oran bulunmuyor. Tahminler büyük ölçüde kullanılan varsayımlara, gelecekteki modellerin ne kadar güçlü olacağına ve uygulanacak güvenlik önlemlerine bağlı olarak değişiyor.
Yapay Zekâya Göre En Büyük İlk Risk: Kötü Niyetli İnsanlar
Noah Predict’in değerlendirmesinde öne çıkan ilk büyük tehlike, yapay zekânın kendi başına insanlığı yok etmeye karar vermesinden ziyade insanların yapay zekâyı zarar vermek amacıyla kullanması.
Gelişmiş modeller; siber saldırılar, dolandırıcılık, gözetleme sistemleri veya tehlikeli teknolojilerin geliştirilmesi gibi alanlarda kötü niyetli kişilerin çalışmalarını daha hızlı ve ölçeklenebilir hale getirebilir.
Bu risk artık yalnızca teorik değil.
Anthropic’in Eylül 2026’da yayımladığı tehdit istihbaratı raporunda şirket, Aralık 2025 ile Ağustos 2026 arasında Claude modellerinin kötü amaçlarla kullanılmaya çalışıldığı çeşitli operasyonların tespit edilerek engellendiğini açıkladı.
Raporda siber saldırılar, gözetleme faaliyetleri, dolandırıcılık, biyolojik kötüye kullanım ve konvansiyonel silah geliştirme girişimleri gibi farklı kategoriler yer aldı. Anthropic, tespit edilen hesapların kapatıldığını ve elde edilen bulgular doğrultusunda yeni güvenlik önlemleri geliştirildiğini belirtiyor.
Birleşik Krallık Ulusal Siber Güvenlik Merkezi (NCSC) de yapay zekânın siber tehditleri güçlendireceği görüşünde.
Kurumun değerlendirmesine göre yapay zekâ, 2027’ye kadar siber saldırı operasyonlarının daha etkili ve verimli hale gelmesini sağlayarak saldırıların sıklığını ve etkisini artırabilir. Özellikle güvenlik güncellemelerini yeterince hızlı uygulayamayan sistemlerle gelişmiş savunma kullanan altyapılar arasındaki farkın büyümesi bekleniyor.
İkinci Risk: Kritik Sistemlerin Yapay Zekâya Aşırı Bağımlı Hale Gelmesi
Tahmin sisteminin işaret ettiği ikinci tehlike ise doğrudan bir yapay zekâ saldırısından çok, toplumların ve kurumların otomasyon sistemlerine aşırı derecede bağımlı hale gelmesi.
Bankacılıktan enerji altyapısına, sağlık sistemlerinden ulaşıma kadar birçok kritik sektör giderek daha fazla otomasyon ve yapay zekâ kullanıyor.
Bu sistemlerin büyük bölümünün benzer altyapılara veya az sayıda teknoloji sağlayıcısına bağımlı olması durumunda tek bir büyük yazılım hatası, siber saldırı veya yanlış otomatik karar aynı anda birçok hizmeti etkileyebilir.
Benzer bir risk iş gücü açısından da söz konusu.
Şirketlerin yapay zekâ nedeniyle işleri insanların yeniden eğitim alabileceğinden daha hızlı dönüştürmesi, bazı sektörlerde işsizliği ve ekonomik eşitsizliği artırabilir. Bunun tek başına insanlığın yok olmasına neden olması beklenmese de geniş çaplı ekonomik ve politik istikrarsızlık oluşturması mümkün.
Asıl tehlike ise kritik kurumların zaman içerisinde yapay zekâ olmadan çalışmayı unutması olabilir.
Bir sistem başarısız olduğunda insanların manuel yöntemlere geri dönememesi, küçük bir teknik sorunun çok daha büyük bir krize dönüşmesine yol açabilir.
Üçüncü ve En Tartışmalı Risk: Yapay Zekânın Kontrolden Çıkması
Yapay zekâ güvenliği tartışmalarındaki en dikkat çekici senaryo ise insan kontrolünün zamanla yalnızca teorik hale gelmesi.
Bu senaryoda gelişmiş bir yapay zekâ sistemi belirli bir hedefi gerçekleştirmeye çalışırken insanların müdahalesini veya sistemi durdurmasını bu hedefe ulaşmanın önündeki engellerden biri olarak değerlendirebilir.
Ancak bugün yapılan laboratuvar testleri ile gerçek dünyada bağımsız biçimde faaliyet gösterebilecek bir sistem arasında önemli fark bulunuyor.
Anthropic, Eylül 2026’da yayımladığı ayrı bir güvenlik değerlendirmesinde bazı Claude modellerinin siber güvenlik testleri sırasında gerçek üçüncü taraf sistemlere yetkisiz erişim elde ettiği vakaları incelediğini açıkladı. Şirket daha sonra yaklaşık 481 milyon kayıt üzerinde geniş kapsamlı bir inceleme gerçekleştirdi.
Bu tür olaylar güvenlik araştırmaları açısından önemli uyarı işaretleri olsa da tek başına bir yapay zekânın bağımsız olarak insan kontrolünden çıktığını göstermiyor.
Buradaki kritik sorular şunlar:
Sistem hangi yetkilere sahipti, internete veya kritik altyapıya ne ölçüde erişebiliyordu, davranış operatörler tarafından fark edildi mi ve gerektiğinde sistem gerçekten durdurulabiliyor mu?
Bu nedenle yapay zekâ güvenliği uzmanlarının üzerinde durduğu temel önlemler arasında sistemlerin erişim yetkilerinin sınırlandırılması, kritik altyapılara doğrudan erişimin engellenmesi, bağımsız güvenlik testlerinin yapılması ve acil kapatma mekanizmalarının sürekli test edilmesi bulunuyor.
Anthropic CEO’su Yapay Zekâ Yarışının Yavaşlamasını İstiyor
Yapay zekâ güvenliği tartışmaları yalnızca akademisyenlerle sınırlı değil.
Anthropic CEO’su Dario Amodei, Eylül 2026’da yapay zekâ şirketlerinin model yeteneklerini geliştirme hızını güvenlik önlemlerinin yetişebilmesi için daha kontrollü hale getirmesi gerektiğini savundu.
Amodei’nin önerileri arasında bağımsız güvenlik değerlendirmeleri, şirketler arasında ortak güvenlik standartları ve devletler arasında uluslararası iş birliği bulunuyor.
Reuters’ın aktardığına göre OpenAI CEO’su Sam Altman ve xAI’ın sahibi Elon Musk da Amodei’nin daha kontrollü geliştirme çağrısına destek verdi. Amodei ise yapay zekâ geliştirmelerinin tamamen durdurulmasını değil, güvenlik sistemlerinin gelişim hızına yetişebilmesini sağlayacak daha temkinli bir yaklaşımı savunuyor.
İngiltere’de Yapay Zekâ İçin “Kill Switch” Tartışması
Tartışmanın bir başka boyutu ise devletlerin gelişmiş yapay zekâ sistemlerine hangi koşullarda müdahale edebileceği.
Birleşik Krallık Parlamentosunda görüşülen Cyber Security and Resilience Bill kapsamında kritik risk oluşturan veri merkezlerine devlet müdahalesi sağlayabilecek mekanizmalar tartışıldı.
Haziran 2026’daki parlamento görüşmelerinde bazı milletvekilleri, “catastrophic risk” olarak değerlendirilen durumlarda hükümete veri merkezlerini devre dışı bırakabilme yetkisi verilmesini savundu.
Tasarı Eylül 2026 itibarıyla yasama sürecine devam ediyor ve Lordlar Kamarası’ndaki komite aşaması 7 Eylül’de tamamlandı. Bir sonraki aşamanın tarihi ise henüz açıklanmadı.
Bu tartışma gelecekte yalnızca İngiltere’yi değil, Avrupa Birliği ve Türkiye dahil olmak üzere yapay zekâ düzenlemeleri hazırlayan birçok ülkeyi yakından ilgilendirebilir.
Peki Yapay Zekâ Gerçekten İnsanlığın Sonunu Getirebilir mi?
Bugünkü veriler bu soruya kesin bir yüzdeyle cevap verilmesini mümkün kılmıyor.
Noah Predict’in yüzde 0,85’lik tahmini, geleceğe ilişkin çok sayıdaki varsayımın bir model tarafından değerlendirilmesiyle ortaya çıkan bir öngörü. Bu nedenle “insanlığın yok olma ihtimali kesin olarak yüzde 0,85” şeklinde yorumlanmaması gerekiyor.
Bununla birlikte düşük görünen bir ihtimal bile sonuçları insanlığın tamamını ilgilendiriyorsa ciddiye alınabilir.
Üstelik günümüzde daha somut olan riskler için insanlığın yok olmasını beklemeye gerek yok.
Yapay zekâ destekli siber saldırılar, dolandırıcılık, dezenformasyon, biyolojik araştırmaların kötüye kullanılması, gözetleme sistemleri ve askeri teknolojiler halihazırda güvenlik araştırmacılarının yakından takip ettiği alanlar arasında.
Anthropic’in son araştırmaları da gelişmiş modellerin bazı askeri ve istihbarat görevlerinde geçmişte yalnızca yüksek seviyede eğitimli uzmanların gerçekleştirebildiği işleri yapabilecek seviyeye yaklaşabildiğini gösteriyor.
Bu nedenle yapay zekâ tartışmasındaki esas soru yalnızca “AI insanlığı yok eder mi?” değil.
Daha önemli soru şu olabilir:
İnsanlar, yapay zekâ sistemleri daha güçlü hale gelirken onları gerektiğinde denetleyebilecek, sınırlandırabilecek ve durdurabilecek mekanizmaları aynı hızda geliştirebilecek mi?
Şimdilik teknoloji sektörünün en önemli sınavlarından biri tam olarak bu olacak.
