Emekli Havacılık Kontrolcüsü, Yeni Yapay Zeka Sisteminin Uydurduğu Verilerle Felaket Oluşturmasından Korktu.

13 yıllık deneyime sahip emantik havacılık kontrolcüsü Todd Sheridan Yeary, havacılık camiasının henüz tam olarak güvenemediği yeni yapay zeka sistemi SMART’ın (Strategic Management of Airspace, Routes and Trajectories — Hava Sahası, Rotalar ve Yörüngelerin Stratejik Yönetimi) nasıl kullanılacağına dair temel soruların hala yanıtını bulamadığını belirterek sistemin belirsizliğine dikkat çekti. Yeary, yapay zekanın uydurduğu doğrulanmamış verilerin gerçek zamanlı bir ortamda felaket riski taşıdığını vurguladı ve sistemin şu an için kullanımı konusunda son derece muhafazakâr olduğunu ifade etti.

News Nation’a verdiği röportajda konuşan Yeary, yeni sistemin ne işe yarayacağı konusunun hala cevaplanmayı beklediğini söyledi. “Aklımıza gelen ilk şey, bu aracın gerçekten ne için kullanılacağı,” diye sordu Yeary. SMART’ın öngörücü bir araç olarak mı yoksa insan kararlarının yerine geçen talimat verici bir sistem olarak mı kullanılacağının belirsiz olduğunu vurgulayan uzman, havacılık güvenliğini önemseyen herkes için bu yanıtın son derece kritik olduğunu belirtti.

Hava Trafik Kontrolü Dinamik Bir Ortam

Yeary, yapay zekanın havaalanlarındaki çakışmaların çözülmesinde daha talimat verici bir rol üstlenmesi durumunda durumun değişeceğini kaydetti. “Eğer yapay zeka, özellikle meşhur havalimanlarında bu çakışmaları nasıl çözeceğimiz konusunda daha fazla talimat veriyorsa, bu farklı bir soru,” dedi. Hava trafik kontrolünün dinamik bir ortam olduğunu hatırlatan Yeary, sisteme veri konulup o verilerin hala geçerli olmasını beklemenin doğru olmadığını savundu.

“Hava trafik kontrolü koşulları sürekli değişiyor. Bu yüzden onların bunu nasıl kullanmak istediğini görmek istiyorum ama şu an için kullanımına dair biraz şüpheciyim ve son derece muhafakârım,” diye ekledi. Uzman, sistemin gerçek zamanlı bir egzersizde güvenilir bilgiler üretme konusundaki belirsizliğini yineleyerek endişelerini dile getirdi.

Büyük Endişe: Yapay Zeka Uydurmaları

Nin büyük endişesi sorulduğunda Yeary tek bir kelimeyle yanıtladı: “Uydurma (hallucination).” Yapay zekanın doğrulanmamış ve hatalı veri üretme eğiliminde olduğunu belirten uzman, bu bilgilerinin hangi kaynaklardan geldiği konusunda ciddi sorular bulunduğunu kaydetti. “Yapay zeka doğru olmayan ve doğrulanmayan bilgi ve veriler ürettiği biliniyor; o zaman bu bilgileri nereden alıyor?” diye sorunca Yeary, bilgiler havayolu şirketlerinin sefer programlarından geliyorsa bunun bir durum olduğunu ancak mutlaka bir müdahale (override) imkânının olması gerektiğini söyledi.

“Bu müdahalinin görevdeki kontrolcüden gelmesi zorunlu,” diyerek insan unsurunun sistem içindeki kritik rolünü hatırlatan Yeary, yapay zekaya blindce güvenilmesinin riskli olduğunu vurguladı. Uzman, sistemin gerçek senaryolarda test edilmeden güvenilir bilgiler üretme konusundaki belirsizliğini tekrarladı.

Sadece Simülasyonla Yaygınlaştırılmalı

Haberleşme sorunlarının yaşandığı bir dönemde gündeme gelen SMART’ın “yumuşak lansmanı” önce son derece meşhur olan Washington DC metropol bölgesindeki havaalanında başlatılacak. Bu yaygınlaşma planı tartışılırken Yeary, konuyu açıkça dile getirdi: “Bu sistemi simülasyon dışında bir ortamda yaygınlaştırmak bir sorundur.” Gerçek hayata benzer senaryolar üzerinde gerçekten test edilme şansı elde edilmeden, bu bilgilerinin gerçek zamanlı bir egzersizde güvenilir üretileceğini söylemenin çok zor olduğunu belirtti.

“Gerçek hayat senaryolarında test etme şansımız olmadan, bu bilgiye gerçek zamanlı bir çalışmada güvenileceğini söylemek çok zor,” diyerek sistemin olgunlaşmadan kullanılması uyarısında bulundu. “Bilmadığımız şeyler çok daha fazla ve ben bunu bir havaalanındaki gerçek zamanlı bir senaryo ortasında keşfetmek istemiyorum,” diye ekledi Yeary.

Haberleşme Çöküşü Sonrası Güven Sorunları

SMART’ın yaygınlaşması, Pazartesi günü yaşanan büyük bir havacılık haberleşme çöküşünün ardından geliyor. Philadelphia yakınlarında hem temel telekomünikasyon hattının hem de yedek hattının aynı anda devre dışı kalmasıyla başlayan kriz, doğan kaosta kıyı şeridinde yüzlerce uçağın saatler boyunca gecikmesine neden oldu.

Bu gelişme, ülkenin çürüyen hava trafik kontrolü sisteminin ve aşırı yük altında çalışan kontrol personelinin, son derece deneysel bir yapay zeka sisteminin yükünü taşıyabileceği konusunda önemli soruları da beraberinde getirdi. Uzmanlar, mevcut altyapının bu tür deneylere hazır olup olmadığı konusundaki tartışmaların sürdüğünü belirtiyor.