Meta’nın yeni nesil yapay zekâ ajanı Muse, bu kez yetenekleriyle değil ciddi bir gizlilik tartışmasıyla gündemde. Güvenlik araştırmacıları, Muse üzerinden bağlantı yoluyla paylaşılan binlerce konuşmanın, bağlantıya doğrudan sahip olmayan kişiler tarafından dahi keşfedilebildiğini ortaya çıkardı.
Güvenlik şirketi Claroc tarafından yapılan araştırmada yaklaşık 6.800 Meta Muse paylaşım bağlantısının tespit edilebildiği belirtildi. Daha da önemlisi, araştırmacıların incelediği bağlantıların bir bölümünde şirketlere ait finansal bilgilerden kredi başvurularına, çalışan izin takvimlerinden banka işlemleriyle ilgili notlara kadar oldukça hassas veriler bulundu.
Meta ise ortaya çıkan gizlilik sorununun ardından Muse’un konuşma paylaşma özelliğini inceleme süresince geçici olarak durdurduğunu açıkladı.
Meta Muse paylaşımları nasıl bulunabiliyordu?
Sorunun temelinde, Muse’un paylaşılan konuşmalar için oluşturduğu internet adreslerinin tasarımı bulunuyor.
Birçok yapay zekâ hizmetinde olduğu gibi Muse kullanıcıları da oluşturdukları konuşmaları özel bir bağlantı aracılığıyla başka insanlarla paylaşabiliyor. Normal şartlarda bu bağlantılarda tahmin edilmesi son derece zor, uzun ve rastgele karakter dizileri kullanılması sayesinde adresi bilmeyen bir kişinin içeriğe ulaşması güçleşiyor.
Muse bağlantılarında da rastgele karakterler bulunuyor. Ancak Claroc araştırmacılarının dikkatini çeken kritik bir fark var: Konuşmanın başlığı doğrudan alt alan adına, yani subdomain bölümüne ekleniyor.
Basitleştirilmiş bir Muse paylaşım bağlantısı şu yapıya sahip olabiliyor:
ev-satis-butcesi-[rastgele-kod].cf.metaaiusercontent.com
Sorun da tam olarak burada başlıyor.
Bir internet adresindeki alt alan adı DNS sistemi tarafından çözümlendiği için bu bilgi bazı pasif DNS veri tabanlarında kayıt altına alınabiliyor. Böylece paylaşım bağlantısının rastgele bölümü tahmin edilemese bile bağlantının tamamı daha önce gözlemlenmiş DNS kayıtları üzerinden aranabiliyor.
Claroc araştırmacıları bu yöntemi kullanarak binlerce Muse paylaşım sayfasını tek bir sorguyla listeleyebildiklerini belirtiyor.
Araştırmacılar 6.800 paylaşım bağlantısı buldu
Claroc’un araştırmasına göre gerçekleştirilen pasif DNS sorgusu sonucunda 6.800’den fazla Muse paylaşım adresine ulaşılabildi.
Araştırmacılar bu bağlantıların birkaç yüzünü incelediklerinde, kullanıcıların büyük olasılıkla internette herkese açık şekilde yayınlamak istemeyeceği bilgilerle karşılaştı.
Tespit edilen içerikler arasında şunlar bulunuyor:
- Bir adayın üst düzey bir yapay zekâ laboratuvarıyla gerçekleştireceği gizli işe alım görüşmesine ilişkin notları,
- Bir şirketin CEO’su için hazırlanan şirket içi gelir değerlendirmesi,
- Küçük bir işletme sahibine ait kredi başvurusu ve talep edilen kredi miktarı,
- Kısmi banka hesap bilgileri ve işlem ayrıntıları içeren dolandırıcılık uyarısı,
- Bir gayrimenkul yatırımcısına ait mülk adresleri, gelir, mortgage ve yatırım getirisi bilgileri,
- Düzinelerce çalışanın yıllık izin tarihlerini gösteren şirket içi tatil takvimi.
Claroc, söz konusu yöntemi “GhostShares” olarak adlandırıyor. Bu tanım, paylaşım bağlantısı kendilerine doğrudan gönderilmemiş kişilerin bile sayfaları çeşitli teknik yöntemlerle keşfedebilmesini ifade ediyor.
Araştırmacılara göre problem, paylaşım sayfalarının internet üzerinde bulunmasından ziyade bulunmalarının beklenenden çok daha kolay olması.
Pasif DNS nedir ve neden önemli?
Pasif DNS sistemleri, internet üzerindeki alan adlarının geçmişte hangi IP adreslerine yönlendirildiği gibi DNS bilgilerini toplayan veri tabanları olarak çalışıyor.
Bu sistemler güvenlik araştırmalarında oldukça yaygın şekilde kullanılıyor. Örneğin kötü amaçlı yazılımların kullandığı alan adlarının geçmişini incelemek veya bir saldırı altyapısının diğer alan adlarıyla bağlantısını ortaya çıkarmak için pasif DNS kayıtlarından yararlanılabiliyor.
Muse olayında ise aynı sistem farklı bir gizlilik problemine yol açmış durumda.
Muse tarafından oluşturulan paylaşım sayfaları cf.metaaiusercontent.com alan adı altında ayrı alt alan adları kullanıyor. Bir kişi paylaşım bağlantısını açtığında tarayıcının gerçekleştirdiği DNS sorgusu bazı pasif DNS servisleri tarafından gözlemlenebiliyor.
Sonuç olarak konuşmanın başlığıyla birlikte oluşturulan tam alan adı, aranabilir DNS veri tabanlarına girebiliyor.
Buradaki önemli ayrıntı, konuşma başlığının normal URL yolunda değil subdomain içerisinde tutulması. Başlığın yalnızca sayfa adresinin son bölümünde yer alması durumunda DNS sistemi bu bilgiyi görmeyecekti.
Meta paylaşım özelliğini geçici olarak durdurdu
Meta, konuyla ilgili yaptığı açıklamada Muse için bir hata ödül programı yürüttüğünü ve güvenlik araştırmacılarının farklı senaryoları bildirmesini teşvik ettiğini belirtti.
Şirket, Muse kullanıcılarının belirli içerikleri bağlantıyla paylaşabildiğini ve oluşturulan sayfalara bağlantıyı bilen kişilerin erişebildiğini doğrularken, Claroc’un raporunun ardından paylaşım özelliğinin geçici olarak durdurulduğunu ifade etti.
Meta şimdi bağlantıların nasıl keşfedilebildiğini inceliyor ve URL oluşturma sisteminde değişiklik yapılıp yapılmayacağını değerlendiriyor.
Bu nedenle söz konusu yöntemle yeni Muse paylaşım bağlantılarının oluşturulmasından kaynaklanan risk, en azından özellik yeniden kullanıma açılana kadar ortadan kaldırılmış durumda.
Ancak daha önce oluşturulmuş bağlantıların ve bunlara ilişkin geçmiş DNS kayıtlarının durumu ayrıca önem taşıyor. Pasif DNS sistemlerinin temel amacı geçmiş kayıtları saklamak olduğu için daha önce gözlemlenen alan adlarının bazı veri tabanlarında kalmaya devam etmesi mümkün.
Muse daha önce de ciddi bir güvenlik açığıyla gündeme gelmişti
Bu olay Meta Muse ile ilgili ilk güvenlik tartışması değil.
Muse’un piyasaya çıkmasından yaklaşık üç hafta sonra macOS güvenlik araştırmacısı Patrick Wardle, sistemde oldukça ciddi bir sıfır gün güvenlik açığı ortaya çıkarmıştı.
Söz konusu açık, aynı bilgisayarda çalışan başka bir uygulamanın veya yerel kodun Muse hesabı üzerinde kontrol sağlayabilmesine olanak tanıyabiliyordu.
Riskin büyüklüğünün temel nedeni ise Muse’un sıradan bir sohbet botundan çok daha kapsamlı yetkilere sahip olması.
Meta, Muse’u kullanıcı adına işlem gerçekleştirebilen bir yapay zekâ ajanı olarak konumlandırıyor. Sistem; e-posta ve takvim gibi uygulamalarla bağlantı kurabiliyor, internet üzerinde işlem yapabiliyor, formlar doldurabiliyor, rezervasyon gerçekleştirebiliyor, doküman oluşturabiliyor ve kullanıcının onayıyla satın alma işlemleri gerçekleştirebiliyor.
Bu özellikler Muse’u güçlü bir kişisel asistana dönüştürürken aynı zamanda güvenlik ve gizlilik konusunda çok daha yüksek bir standart gerektiriyor.
Yapay zekâ ajanlarında gizlilik daha kritik hale geliyor
ChatGPT, Gemini ve benzeri klasik yapay zekâ sohbet sistemlerinde kullanıcı çoğunlukla modele kendi gönderdiği bilgiler üzerinden etkileşim kuruyor. Yapay zekâ ajanlarında ise durum farklı.
Bu sistemlerin kullanıcı adına gerçek işlemler yapabilmesi için e-posta, takvim, belgeler, hesaplar ve çeşitli çevrim içi hizmetlerle bağlantı kurması gerekiyor.
Dolayısıyla olası bir güvenlik açığı yalnızca bir sohbet geçmişinin açığa çıkması anlamına gelmeyebilir. Kullanıcının çalışma hayatından finansal bilgilerine kadar oldukça geniş bir veri kümesi risk altında olabilir.
Meta da Muse’u tanıtırken gizlilik ve güvenliği ürünün en önemli özelliklerinden biri olarak öne çıkarıyor. Şirketin resmi açıklamalarında kullanıcı giriş bilgilerinin güvenli bir kimlik bilgisi deposunda saklandığı, kritik işlemlerden önce kullanıcı onayı alındığı ve Muse faaliyetlerinin denetlenebildiği belirtiliyor.
Claroc tarafından ortaya çıkarılan GhostShares problemi ise yapay zekâ ajanlarında yalnızca modelin veya hesap güvenliğinin değil, paylaşım bağlantıları gibi nispeten küçük görünen tasarım kararlarının bile ciddi sonuçlar doğurabileceğini bir kez daha gösteriyor.
Meta’nın inceleme tamamlandıktan sonra Muse’un paylaşım sistemini nasıl değiştireceği ise şimdilik bilinmiyor.
