Tek Bir Yapay Zeka Artık Yetmiyor: Amazon, Dev Veri Merkezi Taşımalarında Uzman Ajan Ekibi Kurdu

Amazon’ın veri merkezlerini yöneten üst düzey program yönetmeni Naveen Goel, büyük ölçekli yapay zeka kapasite kurulumlarında tek bir güçlü modelin yeterli olmadığını, bunun yerine birbirine bağlı beş uzman ajanın bir koordinator altında çalışmasının daha doğru sonuçlar ürettiğini açıkladı. Goel, 90 günlük bir programda bu yaklaşımın insan müdahalelerini üçte birine indirgediğini, P90 kapasite tahmininde nominal değerin altında kalan iki pencereyi yakaladığını ve 11. dakikada tetiklenen bir uyarının 47. dakikada geri almayla sonuçlandığını söyledi. Tek modelin yaptığı hata, kanıtlardaki çelişkileri yumuşatarak saygın görünen ama aslında yanlış yanıtlar üretmesiydi.

İki haftalık pencere, aylık bir iş

Goel’in anlattığı ilk olay, bir kontrol düğümünü erken kesinti dalgasına dahil ederken yaşanan bir gözlem hatasıydı. 14 günlük trafik penceresinde izlenen o düğüm, izole görünüyor gibi duruyordu ama aslında aylık bir kapasite uyumlaştırma işiydi. 21’inde uyanan sistem, uyumlaştırmanın yarısını veri merkezi sınırıyla geçirmeye başladı ve boru hatası gecikmesi yaklaşık 10 dakikadan neredeyse 60 dakikaya çıktı. Gözlenen bağımlılık kenarları 12’di, gerçek bağımlılık kenarları olaydan sonra 17’ye ulaştı. “Grafik yanlıştı, gözlem pencerenimdi” dedi Goel. Bir ayda bir çalışan bir iş için iki haftalık bir yakalama penceresini doğru kabul etmek, bu tür bir sapmayı doğuruyordu.

Çelişkileri ortadan kaldıran tek model, yanlış

Goel’in asıl endişe ettiği hata modu, gösterilen kanıtlarda doğru görünen ama gösterilmediği kanıtlarda sessizce yanlış olan bir akıl yürütme modeliydi. Elde edilen tüm kanıtları alan tek bir model, bunlar arasındaki çelişkileri yumuşatıp emin bir yanıt üretiyordu. Buna karşılık çelişkileri ortalayan değil, adlandıran bir koordinatorın olduğu küçük bir uzman ajan ekibi öyle yapmıyordu. Bu ekibin geri kalanı makalede anlatılıyordu.

Bu ölçekdeki iş tek bir soru değildi. Birbirleriyle çok az ortak bağlam paylaşan onlarca soruydu. Akış günlüklerinden neyin neyle konuştuğunu çıkarmak, sanal ağ bant genişliği tavanı altında kullanımın kuyruğunu tahmin etmekten çok farklıydı, bu da yıllardır dokunulmamış bir çalışma kitabını okumaktandı.

Beş uzman ve her birinin arkasındaki model

Her uzman, bir paragraf değil, tiplendirilmiş bir bulgu döndürüyordu: iddia, kanıt, güven, tazelik ve üçlü bir sonuçtan biri — ok, uyarı veya bekle. Yıllardır dokunulmamış bir çalışma kitabından gelen bir sonuç, dün yakalanan bir akış günlüğünden gelen bir sonuçla aynı kanıt değeri taşımadığı için koordinator bunları farklı muamele etmek zorundaydı.

Akış günlüklerini bir ticari döngü boyunca toplayan, kenarları bağlantı sayısına göre bant genişliğinden daha çok ağırlıklı değerlendiren ve birlikte taşınması gereken host gruplarının adaylarını öneren akıl yürütme ajanı (Codex) tek bir nicel görevi aylar boyunca tamamlayıcı biçimde sürüyordu. Gece 4 TB yedeklemesi hacim açısından devasa bir kenardı ama taşıma sıralamasına hiçbir şey katmıyordu; saniyede çalışan 200 baytlık gürültülü sağlık kontrolü ise asıl bozan şeydi.

Sıralama ajanı (Claude Code) bu grupları sıralı bir dalga planına dönüştürüyordu. Gruplar arası kenarlarda yön yürüyordu, zorlayıcı kısıtlar için çıkarma sonuçlarını karşılardı (geri alım belgelenmiş mi, taşıma sırasında canlı manuel adımlar var mı?), kapasite ajanının hedef dalga için kalan alanına bakardı ve yalnızca sonra bir sıralama yayar. Birden fazla küçük alt görevin farklı araçlarla orkestrasyonu, burada Claude Code’un alt ajan özelliğinin hakkını kazandığı yerdi.

Kapasite ajanı (Codex) her dalga için kullanımın kuyruğunu tahmin ediyordu. Ortalama tahmini değil, hiç kimsenin bu değere ayırıp rahat uyumadan önceki bir P90 veya P95. Son 5 pencere üzerinde bir kapsam geri-testine göre kalibre edilmiş. Bir son programda bu sayıdaki sapmanın birkaç milyon dolarlık bir sonucunu taşıdığı, P90 bölümünde açığa çıkarılan bir şeydi.

Gözlem ajanı (detector için Codex, saat 3’teki sözcü için Claude Sonnet) taşımayı sessizce kötüleşen durumları izliyordu. Detector tek bir ana göstergedeki kayar bir z skoruydu, birkaç tanesinin üzerinde birleşik bir anormallik sinyali. Küçük, deterministik, saniyede çalıştırmak ucuzdu. Codex onu yazıp sürdürüyordu. Ama alarm çaldığında ve biri “neden” diye sorduğunda, cevap yorgun bir insanın hareket edebileceği tek bir cümleye sığmalıydı. Opus 5 o an için şu an çok konuşkandı, bu yüzden çağrı tarafı açıklama Sonnet üzerinden gidiyordu.

Çıkarma ajanı (Claude, Skills tarzı) çalışma kitaplarını, değişiklik biletlerini ve postmortemleri okuyup cümle değil, tiplendirilmiş gerçekler döndürüyordu. Üststream bağımlılıklar, altstream bağımlılıklar, geri alımın hiç belgelenip belgelenmediği ve taşıma sırasında insanın canlı çalıştırması gereken manuel adımların sayısı. Son sayı bir dökümantasyon değildi, bir risk skoruydu. Unstrüktürel metin üzerinde yapılandırılmış okuma, Claude Skills’in tasarlandığı moddu.

Çelişkileri adlandıran koordinator

Koordinator, Goel’in bu makaleden okuyucuya en çok aktarmak istediği parçaydı. Aynı soruyu 5 uzmana paralel olarak yayıyordu, tiplendirilmiş bulgularını bekleyip sonra belirli bir şey yapıyordu: bunları ortalama etmemeye karar veriyordu. İki uzman çekiştiğinde koordinator çekişmeyi adlandırıp odaya, bir insanın düşünmesi gereken sırayla verilmiş bir karar özeti veriyordu.

İki uzmanın farklı sonuçlara vardığı tek bir host için bir dalga kararı düşünün: akıl yürütme ajanı ve çıkarma ajanı farklı sonuçlara ulaşıyor. Ortalamayı yapan koordinator yanlış cevabı üretiyor. 0.94 ok ve 0.88 bekle arasında çoğunluk sinyalini seçip muhtemelen ok döndürüyor. Dalga sevk ediliyor. 21’inde uyanıyor. Bu, açılıştaki hata moduydu.

Çelişkileri adlandıran koordinator, odaya gerçekten hareket edebileceği bir şey veriyordu. Çıkan sonuçta üç şey ağırlığı taşıyordu. Contradictions, kanıtlardaki çakışmaların ortadan kaldırıldığı değil, ortaya konduğu yerdi. Risk_signals, aşağıstream bir router’ın dalgayı bir insana kapatmak için karar vermesini sağlayan küçük bir fonksiyondu. Decision_owner ise bir insan adıydı, çağrı tarafı rotasyonuna çözülen ve cutover penceresi açılmadan yönetim tarafından onaylanan bir isimdi. Makalenin geri kalanı, bu parçaların gerçekten ödediği olaylarda her birinin satın aldığı şeydi.

P90 sessizce yalan söylüyordu

Kapasite ajanının ilk versiyonu ortalama üzerinde doğruydular ama satın alma emri dayandığı tam yüzde noktasında emin bir şekilde yanlıydı. Bir son programda P90 sayısı, tek bir sanallaştırılmış bulut kiracısının toplam bant genişliğini fiyatlıyordu, yaklaşık 25 Gbps ile tavanlı. Bu yüzden üretim ve non-prod, 50 Gbps’a ulaşmak için birden fazla kiracıya ihtiyaç duyuyordu. Bu P90’daki her bir kalibrasyon sapması, 6 aylık bir pencerede ekstra bir kiracı veya yaklaşık iki katı bir veritabanı lisans maliyeti anlamına geliyordu, risk defteri bunu yıllık maruz kalışın birkaç milyon doları olarak tahmin ediyordu.

Düzeltme daha iyi bir model değildi. Gerçek kapasite boyut