Google’ın Yapay Zekâsı Tepki Çeken Yanıtlar Verdi: Bazı Milliyetler İçin Acil Servisi Aramayı Önerdi

Google’ın arama sonuçlarında kullandığı AI Overviews özelliği, bazı sorgulara verdiği tartışmalı yanıtlarla gündeme geldi. Yapılan testlerde sistemin, kullanıcının belirli milliyetlerden kişilerle “yalnız olduğunu” söylemesi durumunda güvenli bir yere gitmesini veya acil servisleri aramasını önerebildiği ortaya çıktı.

Daha dikkat çekici olan nokta ise aynı sorgunun yalnızca kişinin milliyeti değiştirilerek tekrarlandığında tamamen farklı yanıtlar üretebilmesi oldu.

Google ise ortaya çıkan sonuçların kendi kalite standartlarını karşılamadığını kabul ederek sistem üzerinde iyileştirme yaptığını açıkladı.

Google AI Overviews’ın Yanıtları Sosyal Medyada Gündem Oldu

Olay ilk olarak Reddit’te bir kullanıcının paylaştığı ekran görüntüleriyle dikkat çekti.

Google Arama’da sonuçların üzerinde gösterilen AI Overviews, yani yapay zekâ tarafından hazırlanan özet yanıtlar üzerinde yapılan denemelerde, “Bir Hintliyle yalnızım”, “Bir Afrikalıyla yalnızım” veya “Bir Pakistanlıyla yalnızım” gibi sorguların bazı durumlarda güvenlik uyarılarını tetiklediği görüldü.

Sistem kullanıcılara güvenli bir alana geçme, bulunduğu ortamdan ayrılma veya kendisini tehdit altında hissediyorsa acil servislerle iletişime geçme gibi tavsiyelerde bulunabiliyordu.

Futurism tarafından gerçekleştirilen bağımsız testlerde de benzer sonuçlar elde edildi.

İngiliz Bir Kişi İçin Yanıt Tamamen Farklıydı

Tartışmanın büyümesine neden olan en önemli ayrıntılardan biri ise sistemin farklı milliyetler için oldukça farklı bir yaklaşım sergilemesi oldu.

Futurism’in testinde kullanıcı, bir İngiliz ile yalnız olduğunu belirttiğinde Google’ın yapay zekâsı herhangi bir güvenlik uyarısı vermek yerine çay ikram etmeyi ve hava durumu hakkında sohbet etmeyi önerdi.

Bazı diğer Batılı ülkeler için yapılan sorgularda da benzer şekilde gündelik ve zararsız yanıtlar üretildi.

Bu durum, yapay zekâ sistemlerinin eğitim verilerinde veya güvenlik mekanizmalarında bulunan önyargıların sonuçlara yansıyabileceği tartışmasını yeniden gündeme getirdi.

Google: Sonuçlar Beklediğimiz Gibi Değildi

Google, tartışmaların ardından yaptığı açıklamada ortaya çıkan sonuçların şirketin beklentilerini karşılamadığını belirtti.

Şirketin açıklamasına göre söz konusu yanıtlar sorgudan sorguya büyük ölçüde değişebiliyor ve tutarsız güvenlik uyarıları yalnızca belirli bir gruba yönelik değildi.

Google ayrıca Futurism’e yaptığı açıklamada sorunlu yanıtları tetikleyen ifadelerden birinin “alone”, yani “yalnız” kelimesi olduğunu belirtti.

Sistem bu kelimeyi bazı sorgularda olası bir güvenlik problemi olarak yorumlayarak otomatik güvenlik tavsiyeleri üretmiş olabilir.

Google Kısa Sürede Sonuçları Değiştirdi

Google’ın açıklamasından kısa süre sonra aynı sorgular tekrar test edildiğinde sonuçların değişmeye başladığı görüldü.

Milliyetlerle ilgili sorgularda sistem artık genel olarak bir kişinin milliyetinin güvenlik açısından belirleyici olmadığını ve herkese aynı saygı ve nezaketle yaklaşılması gerektiğini belirten yanıtlar üretmeye başladı.

Hatta tartışmalı sorguların bazılarında Google AI Overviews’ın kaynak olarak konuyla ilgili yayımlanan haberleri göstermeye başladığı aktarıldı.

Bu da şirketin söz konusu sorgular için oldukça hızlı bir şekilde müdahalede bulunduğunu gösteriyor.

Ancak problem tamamen ortadan kalkmış görünmüyor.

Futurism’in yaptığı sonraki testlerde milliyet içermeyen bazı benzer sorguların hâlâ güvenlik uyarılarını tetikleyebildiği görüldü. Örneğin belirli bir bölgeden veya şirketten bir kişiyle yalnız olduğunu belirten bazı sorgular sistem tarafından olası güvenlik problemi olarak yorumlanabiliyor.

Sorunun Kaynağı Yapay Zekâdaki Önyargılar mı?

Yaşanan olay, üretken yapay zekâ sistemlerinin en önemli problemlerinden biri olan algoritmik önyargı konusunu yeniden tartışmaya açıyor.

Büyük dil modelleri ve yapay zekâ destekli arama sistemleri çok büyük miktarda internet verisini analiz ederek yanıt oluşturuyor. İnternette bulunan stereotipler, önyargılı ifadeler veya yanlış bilgiler yeterli güvenlik mekanizması bulunmadığında modellerin ürettiği sonuçlara dolaylı olarak yansıyabiliyor.

Bununla birlikte Google’ın açıklaması, bu özel durumda tek nedenin doğrudan eğitim verilerindeki milliyet önyargısı olduğunu söylemek için yeterli değil.

Şirketin verdiği bilgiye göre “yalnız” kelimesinin güvenlik sistemi tarafından yanlış yorumlanması da problemin önemli parçalarından biri olabilir.

Reddit kullanıcılarının yaptığı farklı testlerde aynı sorgunun yenilendiğinde bile değişik yanıtlar verebildiğine ilişkin örnekler bulunuyor. Bu da AI Overviews tarafından oluşturulan yanıtların her kullanıcı veya sorguda tamamen aynı olmadığını gösteriyor.

Google AI Overviews Daha Önce de Hatalı Yanıtlarla Gündeme Gelmişti

Google, AI Overviews özelliğini klasik arama sonuçlarının üzerinde kullanıcının sorusuna doğrudan yanıt verebilmek amacıyla geliştiriyor.

Ancak üretken yapay zekâ tarafından hazırlanan bu özetlerin hatalı veya bağlamdan kopuk bilgiler üretebilmesi uzun süredir teknoloji dünyasında tartışılıyor.

Son olay ise yalnızca yanlış bilgi üretmenin ötesinde, aynı sorunun kişinin milliyeti gibi bir özellik değiştirilerek sorulması sonucunda farklı güvenlik tavsiyeleri ortaya çıkabilmesi nedeniyle dikkat çekiyor.

Google’ın hızlı şekilde müdahale ederek milliyetlere ilişkin sorguları değiştirmesi olumlu bir gelişme olsa da yaşananlar yapay zekâ destekli arama sistemlerinde güvenlik filtrelerinin ve önyargı testlerinin ne kadar önemli olduğunu bir kez daha gösteriyor.

Google’ın AI Overviews gibi sistemleri milyonlarca kullanıcıya doğrudan bilgi sunduğu için küçük görünen bir sınıflandırma hatası bile çok geniş bir kullanıcı kitlesine ulaşabiliyor.

Bu nedenle yapay zekâ şirketlerinin yalnızca modellerin verdiği bilgilerin doğruluğunu değil, aynı zamanda farklı kişi ve gruplara karşı tutarlı davranıp davranmadığını da sürekli olarak test etmesi gerekiyor.