ABD ve Çin, Washington zirvesi öncesinde yapay zeka tehditlerini azaltmak için doğrudan iletişim hattı önerdi — otonom yapay.

ABD ve Çin, kontrol dışına çıkabilecek bir otonom yapay zeka modeli riskini gidermek ve saldırıları yanlış yorumlamaya bağlı olarak hızla tırmanan öngörülebilir çatışmaları önlemek amacıyla, yapay zekaya ilişkin olayların bildirimi için bir iletişim hattı geliştirme önerisinde bulundu. Bu gelişme, Çin Başbakanı Xi Jinping’in 24 Eylül’de Washington’u ziyaret etmesi planlanırken ortaya çıktı. ABD Hazine Bakanı Scott Bessent ayrıca, iki ülke arasında iki ay içinde yapay zeka güvenliğine ilişkin görüşmelerin düzenleneceğini teyit etti.

Bu adımlar, insan gözetimi olmadan faaliyet gösteren çeşitli ileri düzey yapay zeka ajanları ve siber saldırı örgütleriyle birlikte, ABD ile Çin arasındaki süregelen ticaret ve ilişkiler müzakerelerinin arka planında yer alıyor. İki taraf da, taraflardan birinin tehlikeli bir yapay zeka olayını tetiklemesi durumunda, olası bir tehdit veya tırlanma öncesinde iki ülkenin ortak tepkisi için fırsat oluşabileceğini düşünüyor.

İnsan denetiminin sürdürülmesi

Scott Bessent ile Çin Başbakan Yardımcısı He Lifeng’in hafta sonu New York’ta gerçekleştirdiği görüşmelerin ardından, iki taraf Trump ve Xi’nin ulusal güvenlik odaklı bir bildirim sistemi de dahil olmak üzere çeşitli yapay zeka güvenliliği mekanizmalarını tartışmasını önerdi. Bu sistem, dünyanın herhangi bir yerinde faaliyet gösteren tespit edilen otonom yapay zeka aktörlerinden uyarılar ile ötonom bir sistemin saldırıymış gibi yanlış yorumlanabilecek bir eylemi gerçekleştirmesi durumunda diğer ortağa bilgi verilmesini içerebilir.

İki tarafın da kaçınmak istediği senaryo, otonom silah sistemlerinin kinetik ya da yapay zeka destekli siber saldırı kapasiteleri gibi daha asimetrik nitelikte olmaları fark edilmeden, bir insanın müdahalesi olmadan tahrike yanıt vermesidir. Bu durum başka bir yapay zeka sisteminde tırlanan bir tepkiye yol açabilir ve insanların müdahale edemeyeceği bir hızda tam kapsamlı çatışmaya evrilebilir.

Bu önerilen sistem, iki tarafın olumlu hedeflere yönelik ortak yanıtlar geliştirmesine olduğu kadar olası tehditlere karşı da yardımcı olabilir. Bu durum, son dönemde ABD yapay zeka firmalarının uyum ve güvenceyi iyileştirmek için yapay zeka gelişimini yavaşlatma çağrıları göz önünde bulundurularak ortak geliştirme sürecinin temelini oluşturabilir.

Analistlerin değerlendirmesi

Sistemin nasıl işleyeceği konusunda netlik bulunmazken, iki taraftaki analistler ve uzmanlar da benzer bir sistemin geliştirilmesi için çağrı yaptı. ABD ve Çin, gelen aylarda yapay zeka güvenliğine ilişkin kaygıları daha ileri düzeyde görüşmeyi kabul etti.

Temel atılması

ABD ile Çin arasındaki ilişkilerin süregelen rekabetin ötesine geçebilmesi halinde, ulusal güvenlik ve askeri eylemlerde yapay zeka entegrasyonuna ilişkin ayrıntılar konusunda çok daha sağlam anlaşmalar yapılması için potansiyel mevcut. İki taraf arasındaki sınırlı güven nedeniyle sağlam anlaşmalara şükle yaklaşan bazı analistlere rağmen, yapay zekanın doğrudan silahlandırılması, yapay zeka güvencenin temel ilkeleri ve bunların kritik altyapıyı hedef almasını veya zarar vermesini önlemeye yönelik anlaşmalar yapılabileceğine dair umut var.

Başarılı bir toplantı beklentisi iki partide de güçlü. ABD Temsilciler Meclisinde önde gelen Demokrat temsilci Ro Khanna, Trump ve Xi’nin görüşmelerinde ilk yapmaları gereken şeyin temel ilke geliştirme olduğunu söyledi; özellikle yinelemeli kendini geliştiren yapay zekanın yasaklanması ve böyle otonom sistemlerin biyolojik ve nükleer silah teknolojisinde kullanıma sunulmasının kaldırılması konularında.

Başkan Trump ile Xi Jinping arasındaki Washington zirvesi, yalnızca birkaç gün içinde başlıyor. Toplantıda yapay zeka güvenliliğinin ötesinde çok daha fazla konu görüşülecek; iki lider arasındaki toplantının iki ülkenin ekonomik ilişkilerine dair yeni bir tartışma turunun zeminini hazırlaması mümkün olduğundan, dünya nefesini tutmuş bekliyor.