Yapay zekâ araçları seyahat planlamasından rota oluşturmaya kadar pek çok alanda kullanılıyor. Ancak Google Gemini tarafından verilen önerilere fazlasıyla güvenen üç acemi dağcının Mount Shasta macerası, yapay zekâ tavsiyelerinin özellikle hayati risk taşıyan durumlarda neden tek kaynak olarak kullanılmaması gerektiğini bir kez daha gösterdi.
Kaliforniya’daki Mount Shasta’ya çıkan üç genç dağcı, yaklaşık 8 saat sürmesini bekledikleri tırmanışın 16 saate uzamasının ardından gece karanlığında dönüşe geçti. Grup rotasını kaybetti, üyelerden biri dizinden yaralandı ve üçlü geceyi yaklaşık 11 bin feet, yani 3.350 metre civarındaki zorlu dağlık arazide geçirmek zorunda kaldı.
Gemini’den rota, yiyecek ve su tavsiyesi aldılar
Siskiyou County Sheriff’s Office tarafından paylaşılan bilgilere göre Roseville, Kaliforniya’dan gelen üç acemi dağcı; gezi hazırlıkları sırasında Google Gemini, YouTube ve AllTrails gibi dijital araçlardan yararlandı.
Ancak yetkililerin özellikle dikkat çektiği nokta, grubun Gemini’ye büyük ölçüde güvenmesi oldu. Dağcılar Gemini’den hem zirve rotası hem de yanlarında götürmeleri gereken malzemeler konusunda tavsiye aldıklarını söyledi.
Sheriff’s Office, Gemini’nin gruba ihtiyaçlarından çok daha az yiyecek ve su götürmelerini önerdiğinin belirtildiğini ve bunun ciddi bir hazırlık hatası olduğunu açıkladı. Yetkililer, yapay zekâya aşırı güvenilmesini “kritik bir yanlış adım” olarak nitelendirdi.
Bu ayrıntı önemli çünkü grubun planladığı yaklaşık 8 saatlik tırmanış, beklenmedik gelişmeler nedeniyle gecelemeyi de kapsayan uzun bir kurtarma operasyonuna dönüştü.
Saat 03.00’te başladılar, zirveye ancak 19.00’da ulaştılar
Dağcılar önce yaklaşık 8.400 feet yükseklikte kamp kurdu. Ardından 30 Ağustos Pazar günü saat 03.00 civarında Mount Shasta zirvesine doğru yola çıktılar.
Ancak yükseliş beklenenden çok daha yavaş ilerledi. Grup zirveye ancak saat 19.00 civarında, yani başlangıçtan yaklaşık 16 saat sonra ulaşabildi.
Yetkililerin Mount Shasta için tavsiye ettiği dönüş saati ise öğlen 12.00 civarında. Bunun nedeni, zirveye ulaşılamamış olsa bile gün ışığı bitmeden güvenli şekilde geri dönmek için yeterli zaman bırakmak.
Üçlü buna rağmen tırmanışa devam etti ve zirveye ulaştıktan sonra karanlıkta inişe başladı.
Telefon kapandı, yedek batarya çalışmadı
Dönüş yolunda sorunlar art arda geldi.
Grubun navigasyon için kullandığı telefonun şarjı tükendi. Yanlarında bulunan yedek güç kaynağının da beklendiği şekilde çalışmadığı bildirildi. Çevrimdışı harita ve bağımsız bir navigasyon alternatifi bulunmayınca grup rotadan çıktı.
Yaklaşık bir saat sonra yardım hattını arayarak yön bilgisi isteyen dağcılar, sonunda Mud Creek Canyon bölgesine doğru sürüklendi. Gece ilerlerken grup üyelerinden biri düşerek dizini yaraladı.
Dağcılar burada ilerleyemez hale gelerek geceyi açık arazide geçirmek zorunda kaldı.
İki helikopter kurtarma girişimi rüzgâr nedeniyle başarısız oldu
ABD Orman Servisi’ne bağlı tırmanış korucuları gruba ertesi sabah ulaştı. Kurtarma ekipleri yaralı dağcıya ilk müdahaleyi yaparken gruba yiyecek ve su da sağladı.
Ancak operasyon burada bitmedi.
Bölgedeki güçlü rüzgâr nedeniyle gerçekleştirilmeye çalışılan iki helikopter tahliyesi başarısız oldu. Bunun üzerine dağcılar ve kurtarma ekipleri inişe yürüyerek devam etmek zorunda kaldı. Grup daha sonra kamp alanına ve ardından Clear Creek Trailhead bölgesine güvenli şekilde ulaştırıldı.
Olayda can kaybı yaşanmaması ise en olumlu gelişme oldu.
Yetkililerden net uyarı: Yapay zekâyı tek kaynak olarak kullanmayın
Siskiyou County Sheriff’s Office olayın ardından dağcılara ve doğa sporlarıyla ilgilenenlere önemli bir uyarıda bulundu.
Yetkililere göre yapay zekâ araçları hazırlık sürecinde yardımcı olabilir ancak rota, hava koşulları, ekipman, yiyecek, su ve acil durum planlaması gibi güvenlik açısından kritik bilgiler yalnızca yapay zekâdan alınmamalı.
Mount Shasta’ya çıkacak kişilere yerel U.S. Forest Service Ranger Station gibi resmi kaynaklarla iletişim kurmaları, birden fazla navigasyon yöntemi taşımaları ve yalnızca telefon veya akıllı saate güvenmemeleri tavsiye ediliyor.
Yetkililerin bir başka önemli tavsiyesi ise oldukça net: Öğlen 12.00’ye kadar Mount Shasta zirvesine ulaşamadıysanız geri dönün.
Google, Gemini’nin verdiği yanıtları araştırıyor
Kaynak haberde Google’ın güven ve emniyet ekibinin olayda Gemini tarafından üretildiği belirtilen tavsiyeleri araştırdığı aktarılıyor.
Google tarafı, yapay zekâ sistemlerinin hata yapabileceğini kabul ederken kullanıcıların özellikle önemli konularda Gemini tarafından sunulan bilgileri ve kaynakları bağımsız olarak doğrulaması gerektiğini vurguluyor.
Üstelik Google’ın aynı sorularla söz konusu yanıtları yeniden üretmekte zorlandığı belirtiliyor. Bu durum üretken yapay zekâ sistemlerinin aynı veya benzer sorular karşısında her zaman birebir aynı çıktıyı vermemesinin de önemli bir örneği.
Mount Shasta olayı, yapay zekânın sınırlarını gösteriyor
Buradaki temel problem yapay zekâ kullanılması değil, yapay zekâ çıktısının uzman görüşünün yerine geçirilmesi.
Gemini, ChatGPT veya benzeri üretken yapay zekâ sistemleri son derece kullanışlı araçlar olabiliyor. Ancak bu sistemler gerçek dünyayı doğrudan deneyimlemiyor; yanıtlarını eğitim verileri, mevcut bağlam ve olasılık hesaplamaları üzerinden oluşturuyor.
Bu nedenle birkaç saatlik bir yürüyüşün kötü hava, yaralanma, rota kaybı veya ekipman arızası nedeniyle günler sürebilecek bir acil duruma dönüşme ihtimalini kullanıcı kadar sağlıklı değerlendiremeyebilir.
Özellikle dağcılık, sağlık, hukuk, finans ve fiziksel güvenlik gibi hata payının düşük olması gereken konularda yapay zekâ tarafından verilen bilgilerin resmi kaynaklar ve alan uzmanlarıyla doğrulanması büyük önem taşıyor.
Mount Shasta’da yaşanan olay da bunun oldukça çarpıcı bir örneği oldu: Yapay zekâ gezi planının hazırlanmasına yardımcı olabilir, ancak dağa sizin yerinize çıkmadığı gibi yanlış bir tavsiyenin sonuçlarıyla da sizin yerinize karşılaşmıyor.
