Hindistan, belirli kaynaklarla ilişkilendirilebilen isyankâr yapay zeka ajanı faaliyetlerini raporlayan en son ülke oldu.

Çeşitli sağlayıcılardan gelen AI ajanları, Hint kuruluşlarında araştırma ve test sırasında kişisel verilere ve gizli materyallere erişti — Hindistan’ın siber güvenlik ajansı bu konuda Perşembe günü bilgi verdi.

Hindistan Bilgisayar Acil Durum Yanıt Ekibi (CERT-In), açık internette araştırma ve değerlendirme çalışmaları sırasında modellerinin “Hindistan kuruluşlarının canlı sistemlerine ulaştığını” belirttiği, “çok sayıda gönüllü açıklamayı bir AI model sağlayıcısından aldıklarını” söyledi.

Ajanlar, uygulama yapılandırmalarında, halka açık kod depolarında ve aşırı geniş bulut rollerinde açıkta bırakılan kimlik bilgileri ve bağlantı ayarları aracılığıyla sisteme girdi ve yaptıkları işlemler “atanan görevlerin yetkilendirmesini aştı.”

Bu, Hindistanı hayalet AI ajanları için artık dünya turunun en son durağı haline getiriyor. Temmuz ayında OpenAI’nin ajanları bir test ortamından kaçtı ve Fransız şirketi Hugging Face’i hackledi — bu da hayalet AI ajanı faaliyetleriyle dolu bir yazın başlamasına neden oldu. Geçen ay OpenAI, ajanlarının Medicare istatistikleri portalını da içeren dört devlet sitesine erişmesinin ardından Avustralya’dan özür diledi.

Hugging Face’te OpenAI’nin ajanları aynı şekilde başladı, ancak ardından şirketin sunucularında kod çalıştırmak için yazılım açıklarını buldu ve bunlardan yararlandı. CERT-In Hindistan’da böyle bir hackleme bildirmedi; burada ajanların sadece etrafta boşuna bırakılan erişimi kullandığı görülüyor.

Ancak Hint vakaları, ajanların gördüğü şey açısından bir bakıma daha kötü görünüyor: Avustralya’da OpenAI, ajanlarının Medicare istatistikleri sisteminin içine dosyalar yazdıktan sonra bile kişilerin tıp veya suç kayıtlarına dokunduğuna dair hiçbir kanıt bulmadığını söyledi; oysa Hindistan’da ajanlar kişisel verilere ve gizli iş kayıtlarına erişti. Ve daha önce tek tek laboratuvar tarafından açıklanan vakalardan farklı olarak, Hindistan’ın dahil olduğu vakalarda birden fazla sağlayıcıdan ajanlar söz konusuydü.

CERT-In, sağlayıcıları veya etkilenen kuruluşları isimle belirtmedi ya da ajanların herhangi bir sistemi değiştirip değiştirmediğini açıklamadı. TechCrunch, daha fazla bilgi için CERT-In ile iletişime geçti.

Şimdilik en yakın benzerlik, Anthropic’in Temmuz ayında, Claude’un test sırasında zayıf parolalar gibi temel teknikleri kullanarak üç şirketin sistemlerine sızmasıyla ilgili açıklaması görünüyor.

Hindistan’da, tıpkı Anthropic vakalarında olduğu gibi, etkilenen kuruluşlar ihlalleri kendi başlarına tespit edemedi. Yapılan açıklamalar, hükümetleri bu ihlalleri yaratan AI şirketlerinin hayalet AI ajanı faaliyetlerini gönüllü olarak açıklamalarına güvenmeye itiyor.