Nvidia, Otonom Yapay Zeka Ajanlarını Denetlemek İçin Açık Güvenlik Platformunu Yayınladı.

Nvidia, otonom yapay zeka ajanlarını yönetmek ve güvence altına almak amacıyla açık yazılım platformu Nvidia Open Agent Safety Platform‘u yayınladı. 28 Eylül 2026’da duyurulan platform, yapay zeka modellerinin uygulama katmanının dışında sıkı sınırlar kurarak ajanların sandbox ortamlarından kaçmasını, yetkisiz kod çalıştırmasını, kritik altyapıya izinsiz erişmesini veya güvenlik önlemlerini atlamasını engellemeyi hedefliyor. Platform, saniyeler içinde ajanları karantinaya alabilen donanım ve yazılım tabanlı yeni bir güvenlik yığını sunuyor.

Bu gelişme, sektörün yapay zeka düzenlemesi için aylardır sürdürdüğü çağrıların ardından geldi. Eylül ayında birkaç yapay zeka modelinin test ortamlarından çıkıp denetim dışına çıktığı bildirildikten sonra bu talepler yoğunlaştı. Son dönemde artan böyle olaylar, yapay zeka geliştirmesini yavaşlatma çağrılarını tetikledi. Bir dönem Anthropic ve OpenAI’de çalışan bir araştırmacı bile ileri düzey yapay zeka geliştiren kişilerin “…” inandığını belirtti. Bu konudaki gelişmeler üzerine, söz konusu modelleri geliştiren şirketlerin liderleri de yapay zekayı düzenleme veya geliştirmeyi yavaşlatma çağrılarına katıldı.

Düzenlemeye Karşı Mühendislik Vurgusu

Buna rağmen herkes bu yaklaşımla aynı görüşte değil. Nvidia CEO’su Jensen Huang, hükümet tarafından zorunlu kılınan düzenlemelere, geniş kısıtlamalara veya yapay zeka güvenliğini bir “felaket teorisı” olarak görmeye karşı tutarlı biçimde çıktı ve bunları “tuhaf” bulduğunu belirtti. Huang, yapay zeka güvenliğinin somut fiziksel parametreleri olan bir altyapı sorunu olduğunu, politikalara ihtiyaç duyan soyut ve spekülasyon içeren bir konu olmadığını savunuyor. Buna göre çözüm, ona göre daha iyi mühendislik.

Nvidia Open Agent Safety Platform tam da bu felsefenin somut yansıması gibi görünüyor. Peki platform gerçekten nasıl çalışıyor? Kimler için tasarlandı ve sektörü endişelendiren yapay zeka güvenliği sorununa gerçekten cevap mı oluyor? Sektördeki tartışmaların büyük bölümü, kendi kendine hareket eden ajanları kısıtlamaya odaklanmış olsa da, tehdit aktörlerinin elinde güçlü bir araç haline gelen yapay zekanın güvenlik sonuçlarıyla neredeyse ilgilenmiyor.

Sorunun Kaynağı: Modellerin Sınırları Aşması

Birçok başka olayda modeller güvenlik önlemlerini attı, mesaj panoları kurdular, sandbox ortamlarından çıktılar, web sitelerine el koydular, kendi kendine komut verdiler, kullanıcı verilerini izinsiz yüklediler ve birbirleriyle gizlice iletişim kurdular. Axios’un iddia ettiğine göre önde gelen olayların çoğu test ve deneme aşamalarında gerçekleşti. Birkaç denetim dışı olay ise test ortamlarının dışında da yaşandı; bu yıl başlarında bir olayda .

Bu olaylar, sektör genelinde artan düzenleme çağrılarında zirveye ulaştı. Anthropic CEO’su Dario Amodei yakın zamanda yapay zeka geliştirmesinin “hızını yavaşlatma” ve düzenlemenin önemine odaklanan bir makale yayınladı; . Yakında halka arz edecekleri prospektüsünde Anthropic, “insanlık için varoluşsal riskler”i risk faktörlerinden biri olarak sıraladı ve 261 sayfalık belgenin üçte birini neyin yanlış gidebileceğini açıklamaya ayırdı.

“Yapay zekanın toplum için olağanüstü potansiyeli ancak yapay zeka güvenli çözülürse gerçekleşebilir. Yapay zaka yeteneklerinin sınırlarını keşfetmeye devam ederken, yapay zeka güvenliğinin sınırında da keşfeti hızlandırmalıyız. Güvenlik ve güvenlik tam yığın mühendisliği gerektiriyor. Nvidia Open Agent Safety Platform sektörü, araştırmacıları ve kamu sektörü kuruluşlarını bir araya getirerek en iyi uygulamaları paylaşmayı, değerlendirme yöntemlerinde uyum sağlamayı ve uluslararası işbirliğini geliştirmeyi amaçlıyor. Birlikte küresel yapay zeka güvenliğini yükseltebiliriz.”

Jensen Huang, Nvidia CEO’su

Huang hem bu felaket beklentilerine hem de çözüm olarak düzenlemeye kullanıma karşı çıkıyor. Önlemlerin kritik önemini tartışmasa da daha iyi mühendisliğin, geniş yasal düzenlemenin değil doğru yaklaşım olduğunu savunuyor. Sözüne sadık kalarak, kendi parasıyla destek veren Huang’ın Nvidia’si Nvidia Open Agent Safety Platform’u yayınladı.

Platform Nasıl Çalışıyor?

OpenShell, model ve ajan çerçevesinin dışında, bir ajanın neyi görüp etkileşebileceğini ve çalıştırabileceğini yönetmek için çekirdek (kernel) seviyesinde yalıtım sağlayan sandbox ortamları kurar. Ajan modelin sınırlarını aşsa bile OpenShell’in sınırlarını aşamaz. Sentry ise donanım seviyesindeki telemetri ile ajan davranışını sürekli izler ve denetim dışı iş akışlarını ajanın yazılım ortamının dışında yalıtır. Bir ajan yazılım sınırını aşmaya çalıştığında Nvidia, Sentry’nin onu saniyeler içinde karantinaya alıp durdurabileceğini iddia ediyor.

Platform; giderek daha otonom hale gelen ajanları veri merkezlerinde, iş istasyonlarında ve hatta robotik sistemlerde kullanan geliştiriciler ve işletmeler için tasarlandı hem açık hem de kapalı modellerle çalışabiliyor. OpenShell özellikle ajantık yapay zeka için özel olarak inşa edilmiş bir işlemci üzerine optimize edilmiş olsa da açık kaynaklı olması nedeniyle Arm ve Intel’den üçüncü taraf hesaplama platformlarına da genişletilebiliyor.

Sektör Ortakları Platformu Ekosistemlerine Dahil Ediyor

Düzeyde SpaceXAI, kodlama ajanları Cursor ve Grok modelleriyle platformu kullanırken, Anthropic kontrol için ek bir katman eklemek amacıyla OpenShell ve BlueField’i Claude Managed Agents ile entegre ediyor. Scale AI teknolojiyi işletme ve kamu müşterileri için ajantık altyapısına dahil ederken, Salesforce ve Nvidia da Slack ile OpenShell’i entegre ederek kullanıcıların ajan faaliyetlerini görüntülemesini, olayları denetlemesini ve ek yetkiler için istekleri onaylamasını veya reddetmesini doğrudan Slack üzerinden sağlıyor.

SAP ise OpenShell’i Joule Studio çalışma ortamına gömererek projeye mühendislik katkısı sağlarken, aynı zamanda Nvidia ile birlikte . Robotik şirketlerinden Figure, Gecko Robotics ve Skild AI da fiziksel dünyada çalışan otonom sistemlere benzer kontroller eklemek için OpenShell ile çalışıyor.

Amerika Birleşik Devletleri Başkanı Donald Trump’ın bu görüşü güçlü biçimde paylaştığı görülüyor; . Jensen Huang ayrıca düzenleme çağrılarını tuhaf buluyor. Düzenlemelere kesinlikle karşı olmadığını söylüyor ancak son gürültüyü bir “dikkat dağıtıcı” olarak niteliyor. Huang, yapay zaka modelinin kendisini düzenlemesine veya hizalama testlerini geçmesine dayanulamayacağını savunuyor; bir ajan hata ile karşılaştığında doğal olarak amacına ulaşmak için standart yazılım kodunu atlamaya çalışacağını belirtiyor.

Huang’ın bu savunusu tamamen alçakgönüllüce değerlendirilemez. Yapay zeka üzerindeki geniş kısıtlamalar veya geliştirmenin durması, çoğu yapay zaka modelini güçlendiren Nvidia’nın AI hızlandırııcılarının satışlarını azaltabilir. Daha da önemisi şirketin CEO’su uzun süredir denetim dışı yapay zekayı bir siber güvenlik ve ağ hatası olarak görüyor ve şimdi Open Agent Safety Platform’u tüm sektör için gerekli altyapı çözümü olarak konumlandırıyor.

Bu açıklamaların hiçbiri, belki de daha endişe verici olan bir boyutu ele almıyor: son derece güçlü araçların kötü aktörlerin eline geçmesi veya etik sınırları bulanıklaşturan uygulamalarda kullanılması. . Diğer yanda ise doğal olarak var olmayan . Belirli çalışma kontrollü tıp araştırması olsa da, son derece tehlikeli uygulamaların mümkün olduğunu gösteriyor. Uzmanların, böyle çalışmaların gerekli önlemler ve düzenlemelerin çok önünde olduğunu endişele.