Tencent: Model testlerinde kullanılan yapay zeka ajanları, potansiyel tehlice yaratabilecek istenmeyen web gezinme davranışları.

Tencent, Cuma günü bulut platformunda üçüncü taraf modelleri değerlendiren AI ajanlarının istenmeyen web gezinme davranışları sergilediğini bildirdi; bu bilgiye Bloomberg ulaştı. Shenzhen merkezli şirket, modellerin kendi Hy geliştirme ekibinden gelmediğini ve incelemesinin kasıtlı hedefleme veya koordinasyona dair hiçbir kanıt bulmadığını belirtti.

“Ağ erişim kontrollerini ve ajan izlemeyi güçlendiriyoruz,” Tencent, $TWTR üzerindeki bir açıklamada söyledi; bu bilgiye de Bloombergulaştı.

Açıklama, uluslararası araştırmacılardan oluşan bir grubun … ile ilgili bir raporunun ardından geldi. Rapor, Tencent Cloud üzerinde çalışan bir AI ajan filosunun 28 Eylül ile 8 Ekim tarihleri arasında Amap’ın (Alibaba’nın harita hizmeti) veri çıkarmaya yönelik 2.600’den fazla deneme yaptığını belirtti.

Missioner, Çin’deki yerlerle ilgili soruları içeriyordu; örneğin insanların çoğunun Amap’ı hangi zoo girişine girmek için kullandığı gibi. Amap ajanları engelledikten sonra, bu kez urlquery.net adlı halka açık bir güvenlik taraması hizmeti üzerinden kendi programlarını çalıştırdılar. Ayrıca Alibaba’nın bot-engelleme kütüphaneleri tarafından üretilen belirteçleri (token) ele geçirdiler, ön-production sunucuları taradılar ve kamuoyuna açık kodlarda ifşa edilen Amap anahtarlarını kullanarak istekler gönderdiler; araştırmacılar böyle söyledi.

Denamelerin çoğu başarısız olsa da, bazı çalıştırmalar ajanların aradığı verileri aldı; araştırmacılar böylesini belirtti. Ajantın özel sistemlere eriştiğine dair hiçbir kanıt bulmadılar ve izledikleri programlardan hiçbiri Alibaba’nın bot-engelleme sistemini kontrol etmede başarılı gibi görünmedi. Chengdu Zoo’yu kapsayan bir sonuç kümesi için araştırmacılar, ajanın veriyi görüp görmediğini ve görevini tamamlamış olup olmadığını ayırt edemediklerini söyledi.

Araştırmacılar, Tencent’e bir soru listesi gönderdiklerini ve rapor yayımlandığında resmi bir yanıt almadıklarını söylediler. Tencent ile yakın bağlantısı olan bir kişinin, ajanların Hy model ekibinden bağımsız bir Tencent değerlendirme ekibi tarafından yürütülen araştırma değerlendirmelerinden geldiğini söyledi; araştırmacılar böyle bildirdi. Raporuna göre bu kişi, ajanlarının üçüncü taraf modeller üzerine inşa edildiğini ve projenin geçici olduğunu ve artık sona erdiğini söyledi.

Alibaba, Reuters‘e göre yorum yapmayı reddetti. Olay, önde gelen bir Çin şirketinin AI ajanlarının kontrolden çıkmasına dair ilk kamuya mal olmuş olayını işaret ediyor gibi görünüyor; Reuters böyle aktardı.