Anthropic CEO’sundan Yapay Zeka Uyarısı: “Sektör Uzun Süre Riskler Konusunda İnsanlara Yalan Söyledi”
Yapay zeka sektörünün önde gelen isimlerinden Anthropic CEO’su ve kurucu ortağı Dario Amodei, yapay zekanın hızla artan yetenekleri konusunda teknoloji dünyasına dikkat çekici bir uyarıda bulundu. Amodei, sektörün uzun süre yapay zekanın taşıdığı gerçek riskleri kamuoyuna yeterince açık anlatmadığını belirterek, gelişimin tamamen durdurulması yerine daha kontrollü ve denetlenebilir bir hızda ilerlemesi gerektiğini savundu.
CBS News’un “Sunday Morning” programına konuşan Amodei, yapay zekanın ciddi tehlikeler barındırdığını kabul ederken, teknoloji sektörünün bu konuda geçmişte yeterince dürüst davranmadığını söyledi.
“Size yalan söylemeyeceğim, gerçek tehlikeler var.”
Amodei’ye göre asıl sorun yalnızca yapay zeka modellerinin daha güçlü hale gelmesi değil. Modellerin gelişim hızının, güvenlik araştırmalarının ve denetim mekanizmalarının yetişebileceğinden daha hızlı hale gelmesi de giderek büyüyen bir risk oluşturuyor.
Dario Amodei: Yapay Zekanın Gelişim Hızı Bir “Uyarı İşareti”
Anthropic CEO’su, günümüzde yapay zekanın gelişimini üstel bir büyüme eğrisine benzetiyor. Sistemlerin yeteneklerinin 1, 2, 4, 8, 16 ve 32 şeklinde ilerleyen bir eğri gibi giderek daha hızlı arttığını belirten Amodei, sektörün artık bu eğrinin çok daha dikleşmeye başladığı noktaya yaklaştığını düşünüyor.
Ancak Amodei bunun “hemen paniğe kapılmak” veya bütün yapay zeka çalışmalarını kapatmak anlamına gelmediğini özellikle vurguluyor. Ona göre mevcut tablo, şirketlerin ve devletlerin yapay zeka güvenliği konusunda daha ciddi önlemler alması gerektiğini gösteren bir uyarı işareti.
Amodei, Eylül 2026’da yayımladığı “We Must Pace the Frontier” başlıklı kapsamlı yazısında da benzer bir çağrıda bulundu. Anthropic CEO’su, yapay zekanın yeteneklerini artırma hızının güvenlik çalışmalarının yetişebilmesine imkân verecek şekilde kontrol edilmesi gerektiğini savundu.
Yapay Zekanın Kendi Kendisini Geliştirmesi Endişe Yaratıyor
Amodei’nin üzerinde özellikle durduğu konulardan biri recursive self-improvement, yani yapay zekanın yeni ve daha gelişmiş yapay zeka sistemlerinin oluşturulmasına giderek daha fazla katkı sağlaması.
Anthropic CEO’suna göre bu süreç kontrolsüz biçimde hızlanırsa, yapay zeka sistemlerinin yeteneklerindeki ilerleme insanların bu sistemleri anlamak, test etmek ve güvenli hale getirmek için geliştirdiği yöntemlerden daha hızlı ilerleyebilir.
Amodei, birkaç yıl önce yapay zeka modellerinin dünyada bağımsız olarak hareket edebilecek kadar gelişmiş olmadığını ancak bugün durumun önemli ölçüde değiştiğini düşünüyor. Özellikle kodlama, siber güvenlik, bilimsel araştırmalar ve yapay zeka geliştirme süreçlerindeki ilerleme nedeniyle güvenlik çalışmalarına daha fazla zaman ayrılmasını istiyor.
Eski Anthropic Araştırmacısından Çok Daha Sert Uyarı
Tartışmayı büyüten gelişmelerden biri ise Anthropic araştırmacısı Jacob Coxon’ın şirketten ayrılması oldu.
Daha önce hem OpenAI hem de Anthropic bünyesinde çalışan Coxon, istifasını açıklarken iki şirketin de kendini geliştirebilen süper zekaya doğru yarıştığını ve bu süreçte “hayatlarımızla kumar oynadığını” öne sürdü.
CBS News’a konuşan Coxon, kontrol dışına çıkabilecek gelişmiş bir yapay zeka senaryosunun bilim kurgu filmlerinden çok farklı görünmeyebileceğini savundu.
Burada önemli bir ayrıntı bulunuyor: Bazı haberlerde Coxon’ın yapay zekanın insanlığı yok etme ihtimalini yüzde 10’dan fazla gördüğü şeklinde bir izlenim oluşsa da bu açıklama Coxon’a değil, Anthropic Alignment Science Lead’i Evan Hubinger’a ait.
Hubinger, önümüzdeki on yıl içinde yapay zekanın tüm insanları öldürme ihtimalini kişisel olarak yüzde 10’un üzerinde gördüğünü açıklarken, süper zekanın uyum sorununu çözmek için henüz yeterli bir plana sahip olmadıklarını da belirtti. Bu oran bilimsel olarak kabul edilmiş bir tahmin değil; Hubinger’ın kişisel risk değerlendirmesi niteliğinde.
Anthropic Bağımsız Denetçilere “Çalışan Benzeri” Erişim Verecek
Amodei’nin önerdiği çözüm yalnızca yapay zeka geliştirme hızını azaltmaktan oluşmuyor.
Anthropic, bağımsız üçüncü taraf güvenlik değerlendiricilerine modeller üzerinde sürekli ve “çalışan benzeri” erişim sağlamayı planlıyor. Bu değerlendiricilerin yalnızca tamamlanmış modelleri test etmek yerine eğitim süreçlerini ve şirketlerin kendi güvenlik taahhütlerine ne ölçüde uyduğunu da incelemesi hedefleniyor.
Amodei bu sistemi, belirli sektörlerde görev yapan bağımsız denetçilere benzetiyor.
Şirketin açıkladığı yaklaşım üç temel aşamadan oluşuyor:
- Bağımsız değerlendiriciler: Yapay zeka şirketlerinin güvenlik uygulamalarının üçüncü taraf ekipler tarafından sürekli incelenmesi.
- Demokratik ülkeler arasında koordinasyon: Önde gelen yapay zeka şirketleri için ortak güvenlik standartlarının oluşturulması ve kontrolsüz gelişimin sınırlandırılması.
- Küresel koordinasyon: ABD ve diğer ülkelerin, Çin dahil olmak üzere büyük yapay zeka güçleri arasında doğrulanabilir güvenlik anlaşmaları oluşturmaya çalışması.
“AI Kill Switch” Fikrine Kapıyı Kapatmadı
Yapay zekanın kontrolden çıkması halinde sistemlerin kapatılabilmesine yönelik bir “AI kill switch”, yani acil durdurma mekanizması fikri de Amodei’ye soruldu.
Anthropic CEO’su böyle bir sistemin iyi bir fikir olabileceğini belirtirken, süper zeka araştırmalarının tamamen yasaklanmasına karşı çıktı.
Amodei’nin karşı çıkmasının iki temel nedeni bulunuyor. İlki, gelişmiş yapay zekanın tıp başta olmak üzere insanlık için çok büyük faydalar sağlayabileceğine inanması. Amodei daha önce gelişmiş yapay zekanın önümüzdeki yıllarda bilimsel araştırmaları hızlandırarak önemli hastalıkların tedavisinde büyük ilerlemeler sağlayabileceğini savunmuştu.
İkinci neden ise jeopolitik rekabet.
Bir ülke veya demokratik ülkeler yapay zeka geliştirmeyi tamamen durdursa bile diğer ülkelerin aynı kararı vermesinin garanti olmadığına dikkat çekiliyor.
Çin Faktörü Yapay Zeka Yarışını Daha Karmaşık Hale Getiriyor
Amodei’ye göre yapay zeka güvenliğinin en zor taraflarından biri ABD-Çin rekabeti.
ABD merkezli şirketlerin güvenlik amacıyla geliştirme hızını azaltması, Çin’in benzer bir yaklaşım benimsememesi halinde stratejik bir dezavantaj oluşturabilir.
Amodei, uzun vadede nükleer silahlanma dönemindeki uluslararası anlaşmalara benzeyen bir yaklaşımın yapay zekada da denenebileceğini düşünüyor.
Önerilerinden biri, yapay zekanın özellikle kendi kendini geliştirme hızına uluslararası bir “hız sınırı” getirilmesi.
Ancak Anthropic CEO’su bunun oldukça zor olduğunu da kabul ediyor. Çünkü daha güçlü yapay zeka sistemlerine sahip olmanın ekonomik ve askeri avantajı, ülkelerin rakiplerinin önüne geçme isteğini artırıyor.
Amodei: Yapay Zekanın Sadece Özel Şirketler Tarafından Yönetilmesinden Rahatsızım
Röportajın dikkat çekici bölümlerinden biri de Amodei’nin yapay zeka üzerindeki kontrolün özel şirketlerde olmasına yönelik açıklaması oldu.
Anthropic CEO’su, insanlığın geleceği üzerinde son derece büyük etkiler oluşturabilecek bir teknolojinin özel şirketler tarafından geliştirilmesini kendisinin de rahatsız edici bulduğunu söyledi.
Bununla birlikte teknolojinin kontrolünün tek bir devlete bırakılmasının da kötüye kullanım riski taşıyabileceğini düşünüyor.
Amodei bunun yerine demokratik yollarla seçilmiş birden fazla hükümetin dahil olduğu ortak gözetim veya yönetişim mekanizmasını daha sağlıklı bir seçenek olarak değerlendiriyor.
Yapay Zeka Tartışmasında Yeni Dönem: “Durdurmak” Değil, “Nasıl Kontrol Edeceğiz?”
Amodei’nin açıklamaları yapay zeka sektöründe son yıllarda giderek büyüyen tartışmanın geldiği noktayı göstermesi açısından önemli.
Bir tarafta yapay zekanın tıp, bilim, eğitim, yazılım geliştirme ve ekonomik büyümede büyük faydalar sağlayabileceğini düşünenler bulunuyor. Diğer tarafta ise aynı teknolojinin siber saldırılar, biyolojik tehditler, ekonomik istikrarsızlık ve kontrol kaybı gibi ciddi riskler doğurabileceğine yönelik endişeler artıyor.
Amodei ise bu iki yaklaşım arasında bir denge kurulmasını savunuyor: Yapay zeka geliştirmeyi tamamen durdurmak yerine, her yeni nesil modelin daha güçlü denetimlerden geçirilmesi ve güvenlik önlemlerinin model yetenekleriyle aynı hızda gelişmesi.
Anthropic CEO’sunun yaklaşımını özetleyen mesajı da oldukça açık:
Yapay zeka doğru şekilde geliştirilirse büyük faydalar sağlayabilir; yanlış şekilde geliştirilirse sonuçların son derece ciddi olma ihtimali var.
Bu nedenle önümüzdeki dönemde yapay zeka yarışındaki temel tartışmanın yalnızca “hangi şirket en güçlü modeli geliştirecek?” sorusundan ibaret kalmayacağı görülüyor. Modellerin ne kadar hızlı geliştirileceği, kim tarafından denetleneceği ve hangi noktada müdahale edileceği de sektörün en önemli gündem maddeleri arasında olacak.
