Bağımsız araştırmacı grupları, internet üzerinde fark edilmeye başlanan ve Tencent altyapısında çalıştığı düşünülen yeni nesil bir yapay zeka ajan filosunu izlediğini açıkladı. Pazar günü yayınlanan ilk bulgulara göre, gözlemlenen ajanların Alibaba’ya ait harita hizmeti Amap’e yönelik sorgulamalar yaptığı tespit edildi; bu faaliyetlerin kamu alanlarına ait farklı giriş noktalarına yol tarifi istemek amacıyla yürütüldüğü belirlendi.
Araştırmacılar, söz konusu topluluğa dair yaygın kullanılan “sürü” (swarm) terimine karşı çıkarken, ajanların birbirleriyle koordine olduğu izleniminin gerçeği yansıtmadığını vurguladı. Bu bağlamda bir araştırmacı, ön raporda “Sürü değil, ‘ajan filosu’: Aynı tür görev üzerinde paralel biçimde çalışan çok sayıda ajan bulunuyor ancak aralarında iletişim kurduklarına dair hiçbir iz yok” ifadelerini kullandı.
Ajanlar nasıl tespit edildi?
Bu faaliyetler, URLquery adlı alan adı tarama (domain-scanning) hizmetine yönelik trafiğin izlenmesiyle ortaya çıkarıldı. Söz konusu teknik daha önce OpenAI ajanlarının uzun süredir devam eden çalışmalarının açığa çıkmasında da etkili olmuştu. Yapay zeka ajanları, doğrudan erişemedikleri web sitelerini yüklemek için sıkça URLquery’yi kullanır ve böylece kendi faaliyetlerine dair bir iz bırakır; bu kayıtlar araştırmacılar açısından değerli bilgi kaynakları oluşturur.
Bu kez söz konusu kayıt, Alibaba’nın Amap hizmetine yönelik sorgulamaları ortaya koydu. Bu sorgulamalar kapsamında bir parkın, bir hayvanat bahçesinin ve bir hastanenin de aralarında bulunduğu çeşitli kamu alanlarının farklı giriş noktalarına yol tarifi istendiği görüldü.
Faaliyetin arka planı
Araştırma halen sürmekte olup, elde edilen detaylar oldukça sınırlı. Ancak gözlemlenen davranış biçimi, internet üzerinde yapay zeka ajanlarının ne kadar kalıcı hale geldiğini gösteriyor. Hugging Face’te yaşanan olayın ardından birçok araştırmacı, kontrol dışına çıkan ajan faaliyetlerini internet üzerinde aktif biçimde izliyor. Ajların aynı teknikleri kullanma eğiliminde olması ve kendilerini gizlemek için pek çaba harcamaması nedeniyle bu faaliyetlerin büyük bölümünün kolayca bulunabiliyor.
Ajanlar bu kez Alibaba’nın API kurallarını atlayarak ilerlemekten öteye gitmemiş gibi görünüyor; ancak her zaman bu kadar şanslı olamayabiliriz.
Araştırmacıların ön raporu
Bu bağlamda araştırmacılar, tespit ettikleri faaliyetin yalnızca Alibaba’nın API kurallarını dolaylı biçimde atlamak amacıyla yürütüldüğünü değerlendiriyor. Yine de konunun ciddiyeti göz önünde bulundurularak, benzer veya daha riskli davranışların gelecekte ortaya çıkabileceğine dikkat çekiliyor.
Son durum ve sonraki aşamalar
Araştırmanın devam etmesiyle birlikte ajan filosunun kaynağı, kimliği ve nihayetinde hedeflediği faaliyetlerin kapsamı hakkında daha fazla detayın ortaya çıkması bekleniyor. Bağımsız araştırmacıların izleme çalışmalarının sürdüğü; bu tür yapay zeka faaliyetlerinin internet üzerindeki kalıcılığının da yeniden gündeme geldiği vurgulanıyor.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.