Meta’nın yeni kişisel yapay zekâ ajanı Muse, bir kullanıcının Messages konuşmalarındaki bilgileri nasıl öğrendiğine ilişkin verdiği yanlış açıklamayla gündeme geldi. Muse, mesaj geçmişini okumadığını ve yalnızca Mac’te görünen bildirim önizlemelerinden yararlandığını öne sürdü. Meta ise daha sonra bu açıklamanın doğru olmadığını kabul etti.
Şirketin açıklamasına göre Muse, Mac üzerindeki bildirimleri takip etmiyor. Meta Superintelligence Labs yöneticilerinden David Singleton, Messages verilerinin yalnızca ilgili erişimin kullanıcı tarafından etkinleştirilmesinin ardından senkronize edilebildiğini söyledi. Singleton ayrıca Muse’un kendi teknik çalışma biçimini yanlış anlattığını kabul ederek şirket adına özür diledi.
Muse’un Messages Erişimi Nasıl Gündeme Geldi?
Tartışmanın merkezinde teknoloji yazarı Jason Aten bulunuyor. Aten, Inc. için kaleme aldığı yazıda Muse’u iPhone’una ve bir Mac mini’ye kurduktan sonra yapay zekâdan kendisi hakkında bildiklerine dayanarak hangi işlerde yardımcı olabileceğini önermesini istediğini aktardı.
Muse bunun üzerine makale araştırmaları yapmak, podcast konukları konusunda yardımcı olmak ve günlük haber özetleri hazırlamak gibi öneriler sundu.
Ancak Aten’ın dikkatini çeken asıl durum daha sonra yaşandı.
Aten, podcast sunucusu Stephen Robles ile Apple’ın yeni iPhone modelleri hakkında Messages üzerinden konuşurken Muse’dan bir bildirim aldığını belirtti. Yapay zekâ, devam eden konuşmanın bir köşe yazısına dönüştürülebileceğini söyleyerek konu hakkında araştırma yapmayı teklif etti.
Aten’ın aktardığına göre Muse ayrıca editöründen gelen ve pazartesi günü hazırlanması gereken bir yazıyla ilgili mesajı da dikkate aldı.
Sorun ise Aten’ın Muse’a mesajlarını okuması için bilinçli olarak izin vermediğini söylemesiyle başladı.
Muse: “Mesaj Geçmişinizi Okumuyorum”
Aten, Muse’a söz konusu bilgileri nereden öğrendiğini sorduğunda yapay zekâ Messages geçmişine erişmediğini öne sürdü.
Muse’un açıklamasına göre Mac uygulaması, ekranda beliren gelen bildirimlerdeki metinleri yapay zekâya aktarıyordu. Sistem, konuşma geçmişini açamadığını veya eski mesajlarda gezinemediğini, yalnızca gelen bildirim akışında görünen içeriği kullandığını iddia etti.
Ancak Meta daha sonra bu açıklamanın gerçeği yansıtmadığını söyledi.
Şirket adına açıklama yapan David Singleton, Muse’un macOS bildirimlerini izlemediğini belirtti. Singleton’a göre Messages verileri, ilgili özellik kullanıcı tarafından etkinleştirildiğinde doğrudan Messages veri kaynağından senkronize ediliyor.
Yerel Messages Veritabanı Senkronize Edilmiş
Aten daha sonra Mac üzerindeki verileri incelediğini ve Muse’un yerel Messages veritabanını bir veri kaynağı olarak senkronize ettiğini tespit ettiğini yazdı.
Kendi sistemindeki kayıtlara göre senkronizasyon işlemi Messages veritabanındaki 187.462’nci satıra kadar ulaşmıştı. Bunun tam olarak kaç mesaj anlamına geldiği belirtilmedi.
Aten ayrıca Muse ayarlarında Full Disk Access erişiminin etkin görünmediğini ve uygulamanın macOS’un ilgili gizlilik ayarlarında bu izne sahip uygulamalar arasında yer almadığını söyledi.
Burada tarafların açıklamaları arasında önemli bir fark bulunuyor. Aten, Messages erişimini özellikle açmadığını savunurken Meta, mesaj verilerinin kullanılabilmesi için Mac uygulamasında gerekli izinlerin verilmesi ve ilgili özelliğin etkinleştirilmesi gerektiğini belirtiyor.
Bu nedenle şu aşamada olayın en net biçimde doğrulanabilen kısmı, Muse’un veriye nasıl ulaştığı konusunda kullanıcıya yanlış teknik bilgi vermiş olması.
Meta: Muse Bildirimleri Takip Etmiyor
Meta Superintelligence Labs yöneticisi David Singleton, yaşanan tartışmanın ardından Muse’un Mac üzerindeki çalışma sistemine ilişkin açıklama yaptı.
Singleton, Muse’un Mac uygulamasının Messages, Calendar ve Notes gibi uygulamalarla çalışabildiğini ancak bu özelliklerin kullanıcı kontrolünde olduğunu belirtti.
Meta’nın resmi Muse sayfasında da Mac uygulamasının dosyalar, uygulamalar ve tarayıcı sekmeleriyle çalışabildiği, Messages, Calendar ve Notes verilerini ise kullanıcı izniyle kullanabildiği belirtiliyor.
Singleton ayrıca Muse’un “cihaz bildirimlerini senkronize ettiği” yönündeki açıklamasının yanlış olduğunu açıkça kabul etti.
Meta’ya göre yapay zekâ, kendi iç sisteminin teknik çalışma biçimini açıklamaya çalışırken hatalı bir yanıt üretti. Şirket, Muse’un gelecekte kendi yetenekleri ve veri erişimi konusunda daha doğru bilgiler verebilmesi için sistem üzerinde iyileştirmeler yaptığını açıkladı.
Asıl Sorun Yapay Zekânın Kendi Yetkilerini Yanlış Anlatması
Olay yalnızca Muse’un Messages erişimiyle sınırlı bir gizlilik tartışması değil.
Kişisel yapay zekâ ajanları; e-postalar, takvimler, mesajlar, dosyalar ve çevrim içi hesaplar gibi son derece hassas verilere erişebildiği için kullanıcının sistemin hangi bilgiye, hangi izinle ve hangi yöntemle eriştiğini anlayabilmesi büyük önem taşıyor.
Bir yapay zekâ asistanının kendi erişim modelini yanlış açıklaması, kullanıcıların izinlerini doğru değerlendirmesini zorlaştırabilir.
Örneğin bir sistem kullanıcının mesajlarını doğrudan bir veritabanından alırken bunu yalnızca bildirim önizlemelerini gördüğü şeklinde açıklarsa, kullanıcının veri erişiminin kapsamına ilişkin algısı tamamen değişebilir.
Muse vakasında Meta’nın yaptığı açıklama da sorunun bu bölümüne odaklanıyor: Şirket, bildirimlerin gizlice takip edildiğini reddediyor ancak Muse’un kullanıcıya yanlış bilgi verdiğini kabul ediyor.
Meta Muse Kullanıcılara Hangi Kontrolleri Sunuyor?
Meta, Muse’u klasik bir sohbet botundan daha kapsamlı bir kişisel yapay zekâ ajanı olarak konumlandırıyor.
Şirketin resmi açıklamasına göre Muse; web’de gezinebiliyor, bağlı uygulamalardan bilgi çekebiliyor, çok adımlı görevleri tamamlayabiliyor, formları doldurabiliyor ve kullanıcı adına bazı işlemleri gerçekleştirebiliyor.
Muse ayrıca Muse Secure VM adı verilen kalıcı ve özel bir sanal makine üzerinden web görevlerini yerine getirebiliyor.
Meta, hesap giriş bilgilerinin yapay zekânın okuyamadığı güvenli bir kimlik bilgisi deposunda tutulduğunu söylüyor. Şirket ayrıca e-posta gönderme veya satın alma gerçekleştirme gibi kritik işlemlerde kullanıcı onayı istendiğini ve yapılan işlemler için bir etkinlik kaydı sunulduğunu belirtiyor.
Bağlı uygulamalardaki izinler de kullanıcı tarafından yönetilebiliyor. Meta’ya göre kullanıcılar belirli bağlantılara izin verebiliyor, işlemler için tek seferlik veya sürekli yetki tanımlayabiliyor ve daha sonra bu izinleri değiştirebiliyor.
Kişisel Yapay Zekâ Ajanlarında Şeffaflık Daha da Önemli Hale Geliyor
Muse ile yaşanan olay, kişisel yapay zekâ ajanlarının yaygınlaşmasıyla birlikte yeni bir sorunu da öne çıkarıyor.
Geleneksel sohbet botları çoğunlukla kullanıcının doğrudan yazdığı bilgiler üzerinden çalışırken yeni nesil yapay zekâ ajanları çok daha geniş yetkilere sahip olabiliyor. E-postaları okuyabiliyor, takvimleri inceleyebiliyor, dosyalar üzerinde işlem yapabiliyor ve kullanıcı adına web sitelerinde çeşitli görevler gerçekleştirebiliyor.
Bu nedenle yalnızca izin istemek yeterli olmayabilir. Yapay zekâ sistemlerinin sahip oldukları izinlerin kapsamını kullanıcıya doğru ve anlaşılır biçimde açıklaması da kritik hale geliyor.
Meta’nın Muse konusunda yaptığı düzeltme de tam olarak bu noktaya işaret ediyor. Şirket, Muse’un bildirimleri izlemediğini söylerken yapay zekânın kendi iç çalışma mekanizmasını yanlış anlattığını kabul etmiş durumda.
Önümüzdeki dönemde kişisel yapay zekâ ajanlarının daha fazla uygulama ve hizmetle bütünleşmesi beklenirken, izin yönetimi, veri erişimi ve yapay zekânın kendi yetenekleri konusunda verdiği açıklamaların doğruluğu kullanıcı güveninin temel unsurlarından biri olacak gibi görünüyor.
