Anthropic, veri merkezine ihtiyaç duymayan otonom yapay zeka solucan tehdidini araştırdı — ama gerçek kullanım için çok erken.

bağlantı

Tomshardware sitesinde yayımlanan habere göre, Anthropic‘in sınırsız (frontier) modelleri test eden kıdemli güvenlik ekibi, yapay zeka destekli bir solucanın tüketici cihazlarına yayılabileceğini araştırdı. Araştırma, teknolojinin ilerlemesiyle bu tehdidin gerçek bir endişeye dönüşebileceğini vurgularken, güncel uygulamanın pratik açıdan uygun olmadığını belirtiyor.

12 Ekim’de “AI models may be capable of self-replicating without access to a datacenter” başlıklı raporla paylaşılan çalışmada, ağırlık tabanlı çoğalıcı (weight-based replicator) adı verilen olası bir kötü amaçlı yazılım sınıfı inceleniyor. Geleneksel çalıştırılabilir kod dağıtmak yerine böyle bir solucan, zararlı cihazlarda çıkarım (inference) yapmaya yeterli olan yazılım altyapısıyla birlikte yapay zeka modeli ağırlıklarını da yayıyor.

Araştırmacılar, Qwen3.5-9B modelinin test ettikleri dokuz donanım türünden sekizinde bir çıkarım sunucusu kurabildiğini gösterdi. Bunlar arasında NVIDIA Jetson Nano cihazları, Apple Silicon Mac’ler, Xeon sunucuları, AMD MI300X ve RTX 4090’lı en az bir PC yer alıyordu. Aynı zamanda model, yaklaşık 55 dolar değerinde on beş adet markalı olmayan Android TV kutusunda çalıştırılan Gemma4-26B-A4B modeliyle birlikte kullanıldı ve saniyede 0,39 token olmak üzere birleşik üretim hızına ulaştı.

Anthropic ayrıca bir modelin ağ üzerinde çoğalmayı yönetip yönetemeyeceğini de test etti. Deney için Android 15 emülatorleri çalışan sekiz bulut düğümü kullanıldı. Tohumlanmış bir ajan, doğrulamasız bir Android Debug Bridge (ADB) bağlantı noktası üzerinden düğümler arasında yayıldı ve her hedefte dosya aktardıktan sonra çıkarım sunucusu kurdu. 744 milyar parametreli ve 1TB boyutundaki GLM-5.2, beş denemenin dördünde tüm sekiz düğümde çoğalan sırayı tamamladı; son deneyde ise yedi düğüme ulaştı.

GLM-5.2’nin koordinasyonundan yararlanmadan bu sırayı tamamlayabilen başka açık ağırlıklı bir model yoktu ve modeller büyük bir modelden yardım istemeyi başaramadı, buna rağmen yeteneğe sahip olmalarına rağmen. GLM-5.2 aslında akıllı TV kutularının üzerine kendisini çoğaltmıyordu; bunun yerine her hedefte çok daha küçük Llama 3.1 8B modeli için bir çıkarım sunucusu kurdu. GLM-5.2, emüle edilen düğümlerin büyük modeli çalıştıramaması nedeniyle ayrı bir çıkarım sunucusunda çalıştı.

Yani Anthropic, dışarıdan barındırılan çok büyük bir modelin kasıtlı olarak açık ADB arayüzüne sahip makinelerde basitleştirilmiş çoğalma sırasını yönetebileceğini gösterdi ve küçük modellerin çıkarım kurabileceğini gösterdi; ancak küçük bir modelin tüketici donanımı üzerinde bağımsız şekilde kendini çoğatabileceğini kesinlikle kanıtlamadı. Bu, ince olsa da tüm temelin küçük modellerin veri merkezine dayanmadan kısa sürede yayılabileceği iddiası olduğundan oldukça önemli bir ayrım.

Deneyler, araştırmanın temel kısıtlığını ortaya koyuyor: Çoğalan sırayı güvenilir şekilde tamamlayabilen modeller şu anda yeterli derecede küçük değil; bellek bütçelerine sinen modeller ise çıkarım kurabilseler bile tüm süreci güvenilir şekilde tamamlayamıyor. Güvenilir çoğalma için gereken zeka ile hedef donanımın destekleyebileceği maksimum model boyutu arasındaki bu boşluk, tehdit modelinin şu anda gerçekten geçerli olmadığını gösteriyor; ancak Anthropic gelecekte geçerli olabileceğini uyardı.

Anthropic, genel yapay zeka yeteneğindeki tarihsel gelişmeleri kullanarak 30 milyar parametre sınıfında bir modelin gerekli seviyeye 2026 sonuna kadar ulaşabileceğini öngörüyor. Ancak bu da hayali ve büyük verimlilik sorununu çözmiyor.

Ölçülen çıkarım performansı ve kurulum deneylerinin token gereksinimleri temel alınarak Anthropic, basit Android TV kutularında gözlemlenen üretim hızıyla Qwen3.5-9B için yaklaşık 28 ila 51 saat, Gemma4-26B-A4B için ise 71 ile 150 arasında bir çıkarım ortamı kurulum süresi tahmin ediyor. Araştırmacıların kullandığı kutuların 4GB RAM’e sahip olması ve daha ucuz set-top kutuları olması dikkat çekiyor. Bir modeli sürücülü solucan yeni bir ana makinede çıkarım ortamı kurmak için günler alabilirken, geleneksal solucanlar hedef hakkındaki varsayımları doğruysa saniyeler içinde yükünü çalıştırabiliyor. Geleniksal solucanlar dakikalar içinde on binlerce savunmasız hedefe yayılabilir.

Model ağırlıkları ayrıca önemli bant genişliği ve depolama maliyetleri getiriyor. Anthropic, zararlı görünen makinelerin ağırlıkları doğrudan enfekte bir cihazdan değil dış kaynaklardan indirebileceğini ve her enfected makinenin modeli barındırması gerekmediğini kabul ediyor. Yine de çok gigabaytlık yüklerin dağıtılması ve parçalanmış model çalıştıran makineler arasındaki iletişimin sürdürülmesi büyük ölçüde ağ trafiği oluşturacak, bu da faaliyeti kolayca tespit edilebilir kılıyor.

Anthropic, zirvesinde iki milyondan fazla cihazı enfekte eden bir solucanla karşılaştırılabilecek hayali bir filonun, her 15 cihazın ortalamada bir modeli barındırması durumunda yaklaşık 133.000 Gemma4-26B-A4B örneğini destekleyebileceğini tahmin ediyor. Ölçülen üretim hızıyla (LAN gecikmesinden ciddi şekilde yararlanan) böyle bir filonun yaklaşık 40 Hopper H100-eşdeğeri çıkarım kapasitesi sağlayacağı belirtiliyor.

Bu oldukça dağınık bir karşılaştırma ve veriyle önemli ölçüde oynuyor; ancak yine de söylenmesi gereken şu ki, pek ürkütücü değil İki milyon enfected cihazın aylar (veya yıllar) boyunca enfekte ve çalışır kalması gerekiyor — en hızlı 28 saatlik kurulum hızıyla bile iki milyon cihazı enfekte etmek yaklaşık 6.300 ajan-yılı alıyor — birkaç sunucu bıçağından daha az yapay zeka çıkarım hızını üretmek için.

Anthropic, gerçek bir solucanın diğer donanım türlerini sömürebileceğini, heterojen cihazlar arasında farklı modeller dağıtabileceğini ve model ağırlıklarını her enfected ana makineye yüklememeyi seçebileceğini belirtiyor. Bu olasılıklar karşılaştırmayı kesinlikle karmaşıklaştırıyor; ancak tartışmanın sınırları dışında da karmaşıklaştırabiliyorlar.

Araştırma anlamlı bir güvenlik endişesini de ortaya koyuyor: Yapay zeka ajanları kötü amaçlı yazılımı tanımadığı ortamlara daha uyumlu hale getirebilir ve hedefe özgü mühendislik çalışmalarının miktarını azaltabilir. Rutin işlemler için geleniksal kodu beklenmedik koşullar oluştuğinde yapay zeka tabanlı muhakemeyi birleştiren hibrit yaklaşım, her enfected cihazın sürekli çıkarım motoru çalıştırmasına gerek kalmadan bazı avantajları sağlayabilir. Bu kesinlikle endişe verici; ancak daha önce ileri düzey zekayı kullanarak kendi kodlarını yazan yapay zeka ajanlarını zaten gördük, dolayısıyla araştırmanın bu açıktan pek yenilikçi değil.

Anthropic’in deneyleri o kadar kullanışlı ki, otonom yazılım yapılandırması ve basitleştirilmiş ağ çoğalmasının giderek daha uygun olduğunu gösteren kanıtlar sağlıyor; ancak bu yetenekleri malzemeli olarak daha tehlikeli bir kötü amaçlı yazınıfına dönüştürmek için model güvenilirliği, donanım uyumluluğu, dağıtım verimliliği ve firmanın test etmediği gerçek dünya güvenlik kontrollerini aşabilme gibi gelişmeler gerekiyor. Gerçek makalede burada tartışılmayan çok fazla veri ve ilginli bulgulama var; dolayısıyla araştırmaya ilgiyseniz makaleye bakmalısınız.