ABD‘li yetkililer, bu bahar havaalanlarından havalanmış olan askeri uçakların üzerindeyken endişe verici bir gerçeği fark etti: Bir Çin gemisine yönelik silahlı operasyon için kullanılan istihbarat bilgileri, bir yapay zeka sohbet botu tarafından uydurulmuştu. Son dakikada iptal edilen harekat, ABD ile Çin arasında potansiyel bir çatışmanın eşiğinden dönülmesini sağladı.
Bu olay, askeri yetkililer ve bağımsız uzmanlar arasındaki kaygının giderek arttığını ortaya koyuyor: Karar vericiler yapay zekaya daha fazla güvenir hale geldikçe, bu sistemlerin ürettiği hatalar sorgulanmadan komuta zincirinin üst seviyelerine kadar yayılabiliyor.
Hatalı istihbaratın kaynağı
Suriye’deki çatışma sırasında dolaşımda bulunan istihbarat raporu, geminin nükleer silah programı için bileşenler taşıdığını belirtiyordu. Yanlış bilgi, açık kaynak verileri sınıflandırılmış sinyal istihbaratıyla birleştirmek amacıyla bir yapay zeka sohbet botuna sorgu gönderen Özel Harekat Komutanlığı’na (Special Operations Command) ait bir analistten gelmişti. Sohbet botu, geminin kargo manifestosunu yanlış tanımladı. Analist ardından bu aracı ikinci kez kullanarak hatalı bulguları resmî görünümlü bir özet haline getirdi ve bu özet komuta kanalları üzerinden yayıldı.
Bu yakın kaçış (near-miss) olayı, ABD ordusunun yapay zekayı karar alma süreçlerini hızlandırmak ve Çin’e karşı üstünlüğünü korumak için entegre etme yarışına giriştiği bir dönemde yaşandı. Pentagon, yapay zekanın “kill chain” adı verilen vurma zincirini hızlandırarak komutanların doğru zamanda tepki verebilmesini sağladığı için önemli bir avantaj sunduğunu belirtmişti. Ancak yapay zekayı cazip kılan aynı hız, yeterli insani gözetim olmadan uydurulan bilgilerinin yayılmasına da olanak tanıyabilir.
“Hizmet üyelerinin büyük dil modellerinde (LLM) doğuştan gelen belirsizliği anlamaları önemlidir. Ancak hedef belirleme, istihbarat analizi veya operasyonel planlama gibi gücün kullanılmasına yol açabilecek kararlar için bu özellikle kritik önem taşır. Bu tür kararlara hayat ve ölüm sonuçları bağlanır.”
Jake Steckler, GovAI araştırma araştırmacısı ve eski ABD Ordu subayı
Bu arada Steckler, bu olayın yapay zekaya daha fazla güvence eklemek için bir uyarı niteliği taşıması gerektiğini, ona uzaklaşmak için bir gerekçe olmadığını vurguluyor. “Bu araçlar doğru bağlamlarda ve uygun günceller yerinde olduğunda faydalı olabilir. Ancak benimsem hızını her şeyin üstüne koymak, muhtemelen hizmet üyelerinin bu sistemlere olan güvenini kaybetmesine yol açacak olaylara neden olur ki bu da nihayetinde benimseme sürecini yavaşlatacaktır.”
Sorunlu entegrasyon ve geleceğe dair uyarılar
Olay, yapay zeka teknolojilerinin askeri karar alma süreçlerine dahil edilmesinin getirdiği riskleri gözler önüne seriyor. Karar vericilerin bu sistemlere artan güveni, hataların zincirleme olarak üst seviyelere ulaşma potansiyelini de beraberinde getiriyor. Uzmanlar, hız odaklı benimseme anlayışının uzun vadede sistemlere olan güveni zedeleyebileceğini savunuyor.
Bu bağlamda uzmanlar, yapay zeka araçlarının doğru günceller ve denetim mekanizmalarıyla kullanılması gerektiğine dikkat çekiyor. Hatanın kaynağı olan analist, açık kaynak bilgilerini sınıflandırılmış istihbaratıyla birleştirmek amacıyla sohbet botunu kullanmış; ancak bu aracın ürettiği bilgiyi doğrulamadan resmi bir belge haline getirmiştir. Bu tür olayların tekrarının önüne geçmek için insani gözetimin artırılması ve yapay zeka çıktılarının mutlaka teyit edilmesi gerektiği vurgulanıyor.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.