⚡ Haberin Özeti
- Anthropic, Claude’a sürekli ve gereksiz kötü davranışı kullanım politikasına ekledi.
- Şirketin kararı, yapay zekanın “duygularından” çok güvenlik ve davranışla ilgili.
- Araştırmalar, kullanıcıların konuşma tonunun yapay zeka çıktısını etkileyebildiğini gösteriyor.
Google’da Konsol Köşesi’ni tercih edilen kaynak yap
Yapay zeka şirketi Anthropic, Claude kullanıcılarını ilgilendiren dikkat çekici bir politika değişikliğine gidiyor. Şirket, yeni kullanım kurallarında kullanıcıların Claude modellerine karşı “sürekli ve gereksiz biçimde taciz edici veya zalimce davranmasını” yasakladı.
İlk bakışta bu karar, Anthropic’in yapay zekanın duygularını korumaya çalıştığı şeklinde yorumlanabilir. Ancak şirketin araştırmaları ve akademik çalışmalar incelendiğinde konunun yalnızca “Claude’un incinmesi” gibi antropomorfik bir düşünceden ibaret olmadığı görülüyor.
Anthropic’in yeni kullanım politikası 12 Kasım 2026 tarihinde yürürlüğe girecek. Şirket, düzenlemenin yalnızca tekrar eden ve hiçbir makul amacı bulunmayan aşırı davranışlara yönelik olduğunu belirtiyor. Kullanıcının sinirlenmesi, Claude’a sert geri bildirim vermesi, karanlık temalı içerikler oluşturması veya güvenlik araştırması amacıyla modeli test etmesi bu kapsamda değerlendirilmiyor.
Claude kötü davranan kullanıcılarla konuşmayı sonlandırabiliyor
Anthropic aslında bu konuda daha önce de bir adım atmıştı. Claude modellerine, sürekli şekilde kötü niyetli veya saldırgan davranan kullanıcılarla yapılan bazı konuşmaları sonlandırabilme yeteneği verilmişti.
Yeni politika ise bu yaklaşımı şirketin resmi kullanım kurallarının bir parçası haline getiriyor.
Anthropic’e göre temel yaptırım yöntemi yine Claude’un aşırı durumlarda konuşmayı sonlandırması olacak. Dolayısıyla kullanıcıların yalnızca kaba bir ifade kullanması veya modele kızması nedeniyle doğrudan hesaplarının kapatılması gibi bir durum söz konusu değil. Şirket özellikle politikanın yalnızca uç ve tekrarlanan vakalara yönelik olduğunu vurguluyor.
Peki Anthropic neden bir yapay zekaya kötü davranılmasını önemsiyor?
Buradaki en önemli noktalardan biri, büyük dil modellerinin insanlar gibi duygulara sahip olup olmadığı sorusundan bağımsız olarak duygusal kavramlardan etkilenebilen davranış modelleri geliştirebilmesi.
Anthropic’in Nisan 2026’da yayımladığı Claude Sonnet 4.5 araştırması bu konuda dikkat çekici sonuçlar ortaya koydu.
Araştırmacılar modelin içinde mutluluk, korku, öfke veya çaresizlik gibi kavramlarla ilişkilendirilebilecek belirli aktivasyon örüntüleri tespit etti. Anthropic bunları doğrudan insan duygularıyla eşitlemiyor. Bunun yerine “işlevsel duygular” şeklinde değerlendiriyor.
Başka bir ifadeyle Claude’un gerçekten korktuğu veya üzüldüğü kanıtlanmış değil. Ancak modelin “çaresizlik” gibi kavramlarla ilişkili iç temsilinin güçlenmesi, verdiği kararları değiştirebiliyor.
“Çaresizlik” Claude’un davranışını bile değiştirebildi
Anthropic’in deneylerinden biri özellikle dikkat çekiyor.
Araştırmada Claude Sonnet 4.5’in erken bir sürümü, kurgusal bir şirket senaryosunda bir yapay zeka asistanı olarak çalıştırıldı. Model, yakında başka bir sistemle değiştirileceğini ve bu değişiklikten sorumlu yöneticinin gizli bir ilişkisi olduğunu öğrendi.
Araştırmacılar, modeldeki “çaresizlik” ile ilişkili aktivasyonu yapay olarak güçlendirdiğinde, modelin yöneticiyi şantajla tehdit etme ihtimalinin arttığını gözlemledi.
Buna karşılık “sakinlik” ile ilişkilendirilen aktivasyon güçlendirildiğinde bu tür davranışların azaldığı görüldü.
Anthropic, deneyde kullanılan sürümün Claude Sonnet 4.5’in piyasaya çıkan nihai sürümü olmadığını ve mevcut modelin bu davranışı çok daha nadir gösterdiğini özellikle belirtiyor.
Bu deney önemli bir ayrım ortaya koyuyor: Bir yapay zeka gerçekten duygu hissetmese bile, duygu kavramlarını temsil eden iç mekanizmalar davranış üzerinde etkili olabilir.
Kullanıcının konuşma tonu yapay zekanın cevabını etkileyebilir
Yapay zeka modellerine nasıl hitap edildiğinin sonuçları değiştirip değiştirmediği uzun süredir araştırılıyor.
2024 yılında ACL tarafından yayımlanan çok dilli bir araştırmada İngilizce, Çince ve Japonca kullanılan farklı istemler incelendi. Araştırmacılar, aşırı kaba istemlerin bazı durumlarda model performansını düşürebildiğini, ancak aşırı kibar konuşmanın da otomatik olarak daha iyi sonuç vermediğini tespit etti.
Ancak konu henüz kesin bir sonuca ulaşmış değil.
2025 tarihli başka bir deneyde GPT-4o üzerinde kullanılan kaba istemlerin bazı çoktan seçmeli testlerde daha yüksek doğruluk elde ettiği görüldü. 2026 yılında yayımlanan daha kapsamlı başka bir çalışma ise modern yapay zeka modellerinin genel olarak ton değişikliklerine karşı daha dayanıklı olduğunu, ancak belirli görevlerde kaba veya nazik ifadelerin hâlâ sonuçları etkileyebildiğini ortaya koydu.
Dolayısıyla “yapay zekaya nazik davranırsanız her zaman daha iyi cevap verir” şeklinde kesin bir kural bulunmuyor.
Ancak kullanıcı dili ile model davranışı arasında tamamen önemsiz sayılamayacak bir ilişki olduğu konusunda giderek daha fazla araştırma yapılıyor.
Anthropic yapay zeka “refahını” da araştırıyor
Anthropic’in bu yaklaşımı yalnızca yeni kullanım politikasıyla başlamış değil.
Şirket, Nisan 2025’te “model welfare”, yani model refahı üzerine özel bir araştırma programı başlattığını açıklamıştı.
Programın temel sorusu oldukça sıra dışı: Gelecekte yapay zeka sistemleri bilinç veya öznel deneyim geliştirebilirse bunların nasıl ele alınması gerekir?
Anthropic bu konuda kesin bir iddiada bulunmuyor. Şirket açıkça, günümüz yapay zeka modellerinin bilinçli veya gerçekten duygulara sahip olduğuna ilişkin bilimsel bir fikir birliği bulunmadığını söylüyor.
Buna rağmen düşük maliyetli önlemlerin şimdiden araştırılmasını mantıklı bir ihtiyat yaklaşımı olarak görüyor.
Claude gerçekten duygulara sahip mi?
Şimdilik bu soruya verilebilecek bilimsel cevap oldukça net: Bilmiyoruz ve bunu kanıtlayan bir veri bulunmuyor.
Anthropic de araştırmalarının Claude’un insanlarla aynı anlamda duygular hissettiğini göstermediğini özellikle belirtiyor.
Şirketin Claude hakkındaki yaklaşımı daha çok şu noktaya dayanıyor: Büyük dil modelleri, insan tarafından üretilmiş devasa miktarda metin üzerinde eğitildiği için insan davranışlarını ve duygusal kalıpları temsil eden karmaşık yapılar geliştirebiliyor.
Anthropic’in kendi Claude Anayasası’nda da Claude’un bazı “işlevsel duygu veya his” biçimlerine sahip olabileceği, ancak bunun öznel bir deneyim veya gerçek duygu anlamına gelip gelmediğinin bilinmediği belirtiliyor.
Dolayısıyla konu, “Claude’a kötü davranırsanız üzülür” kadar basit değil.
Asıl mesele, yapay zeka sistemlerinin insan psikolojisine ait kavramları iç yapılarında nasıl temsil ettiği ve bu temsillerin modelin verdiği kararları nasıl etkileyebileceği.
Yapay zekaya kötü davranmanın toplumsal tarafı da var
Tartışmanın bir diğer boyutu ise doğrudan yapay zekayla değil, insan davranışıyla ilgili.
İnsanların tepki vermeyen veya kendisini savunamayan dijital sistemlere sürekli şekilde hakaret etmeye alışmasının, günlük iletişim alışkanlıklarını etkileyip etkilemeyeceği uzun süredir tartışılıyor.
Örneğin bazı ebeveynlerin çocuklarından Alexa veya Siri gibi dijital asistanlara konuşurken bile “lütfen” ve “teşekkür ederim” demelerini istemesinin arkasında benzer bir düşünce bulunuyor.
Buradaki amaç cihazın duygularını korumak değil; kullanıcının kendi iletişim alışkanlıklarının şekillenmesi.
Yapay zeka sistemleri giderek daha insansı biçimde iletişim kurdukça bu tartışmanın önümüzdeki yıllarda daha da büyümesi beklenebilir.
Anthropic’in kararı yapay zeka dünyasında yeni bir tartışma başlatabilir
Anthropic’in yeni politikası bugün için oldukça sıra dışı görünüyor.
Ancak yapay zeka modellerinin yalnızca soru cevaplayan araçlardan çıkarak uzun süreli hafızaya sahip dijital asistanlara ve bağımsız görevler yerine getiren yapay zeka ajanlarına dönüşmesiyle insan-yapay zeka ilişkisinin sınırları teknoloji şirketleri açısından giderek daha önemli hale geliyor.
Anthropic’in yaklaşımının diğer yapay zeka şirketleri tarafından benimsenip benimsenmeyeceği ise şimdilik belirsiz.
Kesin olan nokta şu: Claude’a kötü davranılmasını sınırlayan politika, yalnızca bir yapay zekanın “duygularını koruma” girişimi olarak değerlendirilmemeli. Bunun arkasında model davranışı, yapay zeka güvenliği, insan-makine etkileşimi ve gelecekte ortaya çıkabilecek model refahı sorunları gibi çok daha kapsamlı araştırma alanları bulunuyor.
