Yapay Zeka Ajanlarını Yönetmek: Tek Ajandan Binlerce Ajana Kalkan Örtü Değişiyor.

Dünyanın önde gelen yapay zeka platformu şirketi Databricks, otonom yapay zeka ajanlarının kurumlarda sınırsız biçimde çoğalmasıyla ortaya çıkan yeni yönetim zorluğunu açıkladı. Şirket, geçen yıl Andrew Ng ile ortaklaşa yayımladığı “Governing AI Agents” (Yapay Zeka Ajanlarını Yönetmek) eğitim kursundan bu yana ajan yönetiminin tek bir ajandan, merkezden izlenen çoklu ajan filosuna kaydiğini belirtti. Databricks’a göre 2028 yılına kadar ortalamaya Fortune 500 şirketinin 150.000’den fazla yapay zeka ajanı kullanması beklenirken, kurumların yalnızca yüzde 13’ü doğru ajan yönetiminin sağlandığına inanıyor.

Bu dönüşümün arkasında kodlama ajanlarının ve düşük/kodsuz (low-code/no-code) seçeneklerin yaygınlaşması yatıyor. Ajan kurmanın eskisinden çok daha kolay hale gelmesi, ekiplerin ya kontrolsüz biçimde çoğalan ajan filosunun aşırı veri tüketimi ve öngörülemez maliyetleriyle ya da hassas verilerin sızma riskiyle yüzleşmesine yol açtı.

Kırılma Noktası: Yönetim Tek Ajandan Filoya Yayılıyor

Databricks, geçen yıl bir ajana dördüncül yönetim ilkesini eklemeye odaklanırken, bugün aynı ilkelerin tüm filo üzerinde aynı anda geçerli kılması gerektiğini vurguluyor. Şirkete göre ajan kurmak artık zor kısım değil; bir öğleden sonra bir ajan ayağa kaldırabilir, gözlemlenebilirlik bağlayabilirsiniz ve kopyalanmış veri parçasına yönlendirebilirsiniz. Asıl duvar, canlı sistemlerde ve ölçekli biçimde çalıştırırken karşınıza çıkıyor: ölçekli altyapı.

Sorun şimdi değişti çünkü bu süreç onlarca ajan alt-ajandan aynı anda yaşanıyor. Ajanlar, birçok ekibin yönetebilmesinden çok daha hızlı çoğalıyor. Ekipler artık ajan sayısı kadar merkezi izlemeyi, izinleri ve yönetimi ölçeklendiren bir veri platformuna ihtiyaç duyuyor.

Ajanları eskisinden çok daha hızlı kurduklarını görüyoruz. Sorunun biçimi kaydı. Bir yıl önce tek ajana yönetim dördünlüğünü eklemeye odaklandık: yaşam döngüsü yönetimi, risk yönetimi, güvenlik ve gözlemlenebilirlik.

Databricks

Ajanların çoğalması, altyapı yükünün bir katman aşağıya, ajanın çalıştığı sisteme kaydırıldığı anlamına geliyor. Databricks, yönetimin artık tek ajanda el ile yapılan soyut ilkelerden çoklu filolar için küresel politikalar ve bunları uygulayan altyapı gerektirdiğini belirtiyor.

Dört İlke ve Bir Ajan: Geçmişten Bakış

Databricks, geçen yıl Unity Catalog ve MLflow üzerinde yönetilen bir insan kaynakları analitiği ajanı kurdukları ücretsiz kursu dört temel ilkeye indirgedi. Bu ilkeler yaşam döngüsü yönetimi (görevlerin ayrılması), risk yönetimi (derinlemesine savunma), güvenlik (en az ayrıcalıklı erişim) ve gözlemlenebilirlik (her şeyi denetleme) olarak sıralandı.

Kurs boyunca ajanın canlı veriye doğrudan erişiminin olmadığı, her işlemin maskelemeden görünümlere, gruplardan fonksiyonlara kadar katmanlar üzerinden geçtiği ve hassas tabloların yalnızca özet erişimine izin verildiği anlatıldı. Böylece ajan “Bu çeyrekte mühendislik departmanında ayrılma oranı ne?” sorusunu yanıtlayabilirken, yapısal olarak bir kişinin maaşını ortaya çıkaramıyor.

Ajan sürümlü bir Unity Catalog modeli olarak kaydedildiği için, salı günü yanıt kalitesinin düşmesi durumunda Pazartesi gününün ne gönderdiğinin tam olarak bilinmesi ve siyah kutuda hata ayıklamak yerine geri alınabilmesi mümkün oluyor. Her fonksiyon çağrısı loglanıyor, MLflow her çalıştırmayı izliyor ve sorgudan veri tabanına kadar bir denetim izi oluşuyor.

Şimdi Neredeyiz: Yönetim Ölçeklenebilir Olmalı

Dört ilkenin geçerliliğini korumasına rağmen, bugün her biri tüm filo üzerinde aynı anda uygulanmak zorunda. Bunun için iki şey gerekli: her ajana uygulanan küresel politikalar ve bunları uygulayan altyapı. Her ajan canlı veriye yönetilen erişim gerektiriyor; kopyalanmış bir örnek değil. Her ajan kendi kaydını üretiyor: izler, harcama ve erişim logları ve bunların sorgulanabilir bir yere düşmesi gerekiyor.

Databricks, tek bir ajanda el ile yapılan soyutlamaların, hiç böyle tasarlanmamış bir veri platformunda çalışan yüz ajana değdiğinde hayatta kalamayacağını vurguluyor. Zor iş ajanın kendinden değil, çalıştığı altyapıdan aşağıya kayıyor.

Sınırsız çoğalmanın (sprawl) çözümü için Databricks, “control plane” olarak adlandırdığı merkezden yönetilen bir katmanı öne çıkarıyor. Bu katman, tabloların, izinlerin ve soy bağlarının zaten bulunduğu aynı veri platformunun üzerinde oturuyor.

Databricks’ta bu katman Unity Gateway’dir; geliştiricilerin yapay zeka kodlama ajanlarına, modellerine ve araçlarına nasıl erişeceğini yöneten bir sistemdir. Yöneticiler merkezden yapılandırır ve yönetirken, geliştiriciler yalnızca “ug claude” ya da “ug codex” komutunu çalıştırır ve zaten doğru ayarlarla donatılmış onaylı bir ajana ulaşır.

Databricks

Bu katman dört temel yetenek üzerinden işlevini yerine getiriyor. Ajan yapılandırması, yöneticilerin hangi modellerin, MCP sunucularının, becerilerin ve bütçelerin kullanılacağını tanımlayıp yaymasını; geliştiricilerin ise Unity Gateway CLI aracını bir kez kurup onaylı araçları başlatmasını sağlıyor.

Dört Yetenek: Maliyet Kontrolünden Model Seçimine

Ajan yapılandırması, yönetimin her ajana ayrı ayrı bağlanması gereken bir şey olmaktan çıkıp geliştiricilerin otomatik olarak devraldığı kuruluş çapında bir varsayılan haline geliyor. Akıllı yönlendirme ise her isteği en büyük modele göndermek yerine, görev karmaşıklığını model yeteneğine eşliyor: basit işler için ucuz modeller, zor problemler için güçlü modeller.

Databricks’ın kendi dahili kodlama testinde akıllı yönlendirmenin tek başına yüzde 35 maliyet tasarrufu sağladığı belirtildi. Bu da yönetimin hangi modelin hangi görevde çalışacağına sessizce karar verdiği anlamına geliyor.

Akıllı bütçeler, harcamayı birinci sınıf bir unsura dönüştürüyor. Aylık bütçeler ekip genelinde ya da kullanıcı başına belirleniyor ve her eşikte ne olacağı kararlaştırılıyor: uyarı göndermek, istekleri engellemek ya da ikisini birden. Bütçe artık haftalar sonra bir finans tablonda ortaya çıkan değil, neredeyse gerçek zamanlı biçimde yönetilen bir unsura dönüşüyor.

Birleşik izleme ise her araç çağrısını otomatik olarak kaydediyor: adı, argümanları, hataları, token sayıları ve gecikme süreleri sorgulanabilir bir tablonda toplanıyor. Bu da maliyet kontrolünü bir araştırmadan bir aramaya çeviriyor.

Databricks, yılda yaklaşık 499.000 dolar değerinde israf edilen tokenları araç sunucularındaki yedi küçük hataya izledi ve bunları yaklaşık bir saat içinde düzeltti.

Databricks

Politikalar ise yetki tabanlı erişim kontrolü (ABAC) kullanıyor: yönetilen etiketlere karşı tek bir kural yazıyorsunuz ve her yerde geçerli oluyor. Bu da bir MCP sunucusunun birey araçlara kadar indirgenmesini, anahtarların ise çağrıyı yapan kullanıcı ya ajanın özelliklerinden okunmasını sağlıyor.

Sonuç Değil: Bir Müşteriden Öğrenilen Ölçek

Databricks, bu durumun bir teori olmadığını vurguluyor. Concurrence adlı bir müşteri, tüm trafiğini “tek bir yönetilen yol üzerinden” yönlendirdiğini ve kimlik düzeyinde atama ile onaylı modeller ve MCP araçlarına erişimi koruduğunu belirtti; böylece yaklaşık 360.000 istek across 61 milyar giriş tokenı işledi.

Bu, bir ajanı yönetmekle tüm bir kuruluşun ajan ayak izini yönetmek arasındaki farkdır. Databricks, dört ilkenin değiştirilmediğini, yalnızca filoyu kapsayacak şekilde ölçeklendirildiğini ve buna maliyet adında beşinci bir ilke eklendiğini belirtiyor.

Dört ilkenin şimdi somut yeteneklere dönüştüğü belirtiliyor: merkezden ajan yapılandırması, politikalar (koruyucu çitler ve ABAC izinleri), birleşik izler ve akıllı yönlendirme ile bütçeler. Tek satırlık özet ise şudur: yönetim kapıcıdan kontrol düzleyicisine dönüşmüştür.

Sonraki Adım: Temeller Değişmedi, Tavan Yükseldi

Kurs bir yol haritasıyla kapanıyor: ajanlar için yeşil-yeşil (blue-green) dağıtımlar, uç yönetim için merkezden bir gateway ve ajan davranışında anormal durum tespiti. Bu öğelerin “yakında geliyor” aşamasından “yayınlanıyor” aşamasına ilerlemesini görmek keyifli.

Databricks, ajan kuranlar için temellerin değişmediğini vurguluyor; dört ilkenin hâlâ giriş kapısı olduğunu ve ücretsiz 75 dakikalık kursun bunları uçtan uca anlattığını belirtiyor. Değişen şey tavan.

Sadece her ajanın yönetilip yönetilmediğini değil, hepsini aynı anda yönlendirebilecekinizi de sorun. Çünkü ajan dağıtımınız bir denetim incelemesini beklerken takılıyorsa, engel muhtemelen model değildir.

Databricks

Databricks, kendi ajanlarınıızın dört ilkeye göre denetlenmesini ve ardından daha büyük sorunun sorulmasını öneriyor. Tam oturum izlemek için “Agents at Work: Shipping Agentic Apps at Scale” adlı kaydedilmiş oturuma başvurulabilir.