Yapay Zeka Ajanlarına Kim Göz Kapatıyor? Kurumlar Yönetimini İnsanlardan Makinelere Taşıyor

Yapay zeka ajanları artık iş gücünün ayrı bir parçası haline geldi. Kod yazıyorlar, belgeleri analiz ediyorlar, müşteri sorularına yanıt veriyorlar ve insan müdahalesiyle neredeyse hiç uğraşmadan birden fazla sistem arasında kararlar alıyorlar. Gartner’ın tahminine göre 2028’e kadar ortalama bir Fortune 500 şirketi 150.000’den fazla yapay zeka ajanı çalıştırabilecek. Bu rakam, şirketlerin teknolojiyi doğru biçimde yönetebilmek için bugün sağlam bir altyapı kurma zorunluluğu doğuruyor.

Geçmişte yönetim, insan sistemleri etrafında kurgulanıyordu. Güvenlik, uyum, gizlilik ve risk ekipleri yeni sistemler canlıya alınmadan önce onları gözden geçiriyor, endişeleri belirliyor ve bunları işletmeyle çözmek için çalışıyordu. Bu model işe yarıyordu çünkü yazılım yavaş değişiyordu ve dağıtım döngüleri aylar sürüyordu. Yapay zeka ile bu yaklaşım geçerliliğini yitirdi. Bir ajan, geleneksel bir inceleme süreci bile başlamadan binlerce karar verebilir. Organizasyonlar birkaç yapay zeka ajanından yüzlerceye, hatta son olarak binlere ulaştıkça, faaliyet hacmi insanları gerçekçi biçimde izleyebilecek seviyenin çok üzerine çıkıyor.

İnsan Takibi Eski Modelleri Yetersiz Kılıyor

Yapılan araştırmalar, kurumların yetişemediğini tekrar tekrar gösteriyor. IBM’in bulduğu verilere göre teknoloji yöneticilerinin %70’i, yapay zekanın IT’nin takılabileceğinden daha hızlı dağıtıldığını söylüyor. Gartner’ın bulduğu rakamlar ise daha da endişe verici: kuruluşların yalnızca %13’ü doğru bir yapay zeka yönetimine sahip olduklarını düşünüyor ve agentic yapay zeka için olgun bir yönetimden söz eden işletmelerin oranı %21’de duruyor. Bu zorluklarla karşı karşıya olan kurumlar, sorunu basitçe daha fazla insan ve para atarak çözemezler. Bunun yerine, yapay zekayı merkeze alan biçimde yönetim fonksiyonlarının kendi içlerinde nasıl yeniden tasarlanmaları gerekiyor.

Yapay zeka ajanları, önceden belirlenmiş talimatlara uyan geleneksel yazılımdan farklı olarak hedefleri üzerinden akıl yürütüyor, hangi eylemleri yapacaklarını kendileri belirliyor ve hiç açıkça programlanmadıkları durumlara uyum sağlıyor. Finans, insan kaynakları, bilişim, yazılım geliştirme ve müşteri operasyonlarında bu ajanları yaygınlaştıkça, denetim artık çok farklı bir zorluk haline geliyor.

Blake Brannon, OneTrust’ün baş yenilik ofisi

Bu değişimin merkezinde yeni bir ajan kategorisi yer alıyor: koruyucu ajanlar, yani guardian agents. İş yapan ajanlar ne kadar çalışıyorsa, koruyucu ajanlar da o işi denetliyor. Yönetim ekiplerini yerlerine koymadan değiştiriyorlar, aksine onları uzatıyorlar. Başka ajanların kurumsal sistemlerle nasıl etkileşime girdiğini izliyorlar ve planlanan eylemleri organizasyonel politikalarla karşılaştırıyorlar. Bir ajanın hangi araçları kullandığını, hangi verilere eriştiğini ve hangi yetkililer altında çalıştığını anlıyorlar. Faaliyet kabul edilebilir sınırların dışına çıktığında müdahale ediyorlar.

Müdahale İnsan Odaklı Denetimin Yerine Geçmiyor

Örnek olarak, müşteri pazarlama kampanyasını optimize etmekle görevli bir yapay zeka ajanı ele alınsa, müşteri davranışlarını analiz eder ve maddi sıkıntı çeken kişilerin fiyat karşılaştırması yapma olasılığının düşük, daha yüksek fiyatları kabul etme olasılığının yüksek olduğunu bulur. Matematiksel olarak bu strateji geliri maksimize eder. Çoğu kuruluşun böyle davranmak istemeyeceği açık. Ajan, tam olarak istendiği şeyi yaptı. Sorun, insan bir çalışanın eyleme geçmeden önce uygulayacağı yargı ve iş bağlamını eksik bırakmasıydı. Bu yüzden yapay zeka yönetimini yalnızca sınırlar açısından ele almak, zorluğun bir kısmını kaçırıyor. Koruma önlemleri ve onay akışları önemli, ancak yalnızca insanları önceden tahmin ettikleri senaryoları engelleyebilir. Kimse, yapay zekanın bir tüketicinin maddi sıkıntısını sömürmesini durdurmak için böyle bir politika oluşturmak üzere bir kural yazmaz; çünkü o zamana kadar kimse bunu beklenen bir risk olarak görmüyordu.

Bu durumu yakalayebilecek olan, kuruluşun kendi yargısıdır. Her şirket, gelire ne kadar gideceğini ve asla gitmeyeceği yerleri zaten belirlemiştir. Bu düşünce, deneyimli yönetim profesyonellerinin zihinlerinde yaşar ve birkaç karar aralıklarla uygulanır. Koruyucu ajanlar, bir ajan her eyleme geçtiğinde bu yargıyı her seferinde kullanılabilecek biçimde sunma yolunu açıyor. Bu, insan sorumluluğunu ortadan kaldırmıyor. Liderler hâlâ politika belirliyor ve daha karmaşık kararlar için sorumluluk taşıyor. Değişen şey, yönetim yönetiminin ölçeği. Birkaç inceleme için gereken yargının artık beklemeden bir insanın odada olması gerekmeden her yapay zeka etkileşimine uygulanabilmesi.

Yapay zeka ajanları olağanüstü bir hızla gelişiyor. Bu gelişimin değer yaratıp risk getireceği, bu sistemlerin nasıl çalışması gerektiğine dair kuruluşların bugün vereceği kararların belirleyicisi olacak. OneTrust’ün baş yenilik ofisi Blake Brannon, bu konuyu bu biçimde özetliyor.

Bu gelişmelerin arka planında OneTrust’in düzenlediği En Yenilikçi Şirketler Ödülleri yer alıyor. Başvuruların son tarihi Cuma, 2 Ekim’de, Pasifik Zamanı ile gece yarısı 11:59’da. İlgilenen kuruluşlar, bu ödül programına başvurularını bu tarihe kadar tamamlayabilir.