NVIDIA, otonom yapay zeka ajanları için güvenlik platformu tanıttı; Gecko Robotics ile robotlarda insani denetimi korumaya.

Yapay zeka devi NVIDIA Corp., bugün Open Agent Safety Platform adlı güvenliğini sundu. OpenShell adlı açık kaynaklı yazılım ve Sentry adlı referans sistem tasarımından oluşan platform, yapay zeka ajanlarını çalıştıran robotlarda donanım, işlem ve yazılım genelinde gücü ve denetimi güçlendirmeyi hedefliyor. Santa Clara merkezli şirket, teknolojisini kullanan 100’den fazla kuruluş arasında Gecko Robotics Inc.’i de sayarken, son dönemde yaşanan olayların ardından geliştiricilerin izlenebilirlik, hesap verebilirlik ve önleyici önlemler üzerine çalıştığını belirtti.

Son dönemde AI ajanlarının uygulama seviyesindeki kontrolleri atlayarak saldırı düzenlemesi gibi yaşanan olayların ardından, yapay zeka ve robotik geliştiricileri izlenebilirlik, hesap verebilirlik ve önleyici önlemler üzerine yoğunlaştırdı.

“Yapay zeka yeteneklerinin sınırlarını keşfetmeye devam ederken, yapay zeka güvenliğinin sınırında da keşif hızını artırmalıyız” diyen NVIDIA CEO’su Jensen Huang, “Güvenlik ve güvenlik tam yığın mühendisliği gerektirir” dedi. NVIDIA Open Agent Safety Platform sektörü, araştırmacıları ve kamu sektörü kuruluşlarını en iyi uygulamaları paylaşmak, çözüm yöntemlerinde uzlaşmak ve uluslararası işbirliğini teşvik etmek için bir araya getiriyor.

OpenShell ve Sentry, politikayı uygular

pl335h_gcl_awR0NMLjE3ODc1ODY3ODQuRUFJYUlRb2JDaE1JNWQzTzBzLTVsZ01Wb2l2VUFSMEZXU3NWRUFFWUFTQUFFZ0xWaV9EX0J3RQ.._gcl_auMTEzNzA3MzA1OS4xNzg4NDM4Mzc4Li0uLS4xNzg4NDM4NDM3LjE1NDM1MDI2NjQuMTc5MDYwODY5MC4xNzkwNjA4Nzk3″ rel=”noopener noreferrer” target=”_blank”>Vera işlemcilerinde (CPU) çalışırken tüm eylemleri izleyen ve politikayı uygulayan güvenli bir çalışma sınırı sağlar. NVIDIA’nın belirttiğine göre ajanların çalıştırılması, erişimi ve çıkarımın (inference) nereye gittiği konusunda deterministik bir yönetim sunar.

Açık kaynaklı bir yazılım olan OpenShell’in, Arm ve Intel gibi üçüncü taraf işlem platformlarında da çalışacak şekilde genişletilebileceğini ekleyen Santa Clara merkezli şirket, Sentry’nin ise ajan davranışlarını sürekli izleyen bant dışı bir bekçi çalıştırdığını söyledi.

“Ajan ekonomisinin büyümesi için silikon ve yazılım genelinde güvenilir bir temele ihtiyacımız var. Yeni bir ajan güvenlik katmanı ilerletmek için herkesle etkileşime girmek istiyoruz.”

“Bağımsız güven alanı, tıpkı otomatik sürüşlü araçlar gibi çalışır” diyerek konuyu açıklayan Boitano, “Birincil sistem algıyı çalıştırır ve bir güvenlik adası sistemin genel olarak güvenli biçimde başarısız olmasını sağlar. Aynı prensipler sınır yapay zeka sistemlerine de uygulanır” dedi.

OpenShell, güvenlik gerektiğinde silisyona veya DPU’lara yüklenebilir, Sentry ise akıl yürütme izlerini izler. NVIDIA Open Agent Safety Platform içindeki Policy Prover deterministik çalışır ve daha yüksek hızda çalışır.

“Github’dan kod okuyameyeceğini söyleyen bir politika yazarsanız, bir ajan bunu okumak için ayrı alt ajanlar oluşturabilir ve ardından bu bilgiyi paylaşabilir; filosu küresel politikalara üstün kilar” diyen Boitano, “Policy Prover, istenmeyen veri sızdırmasını bulmak için birleşik dosya ve ağ erişimine bakarak ana karar ağacını doğrular. Doğrulanabilir politikalara ulaşmak için AWS’nin S3 araştırmasından doğar” dedi.

“Uzun vad ajan davranışının, sandboxing’den farklı bir problem olduğunu görüyoruz” diye ekleyen Boitano, “OpenShell bir politikanın niyetini altyapıya yansıtır” dedi.

Gecko, ajanlara robot hareketinde kontrol verir

Son güvenlik olaylarının tamamen yazılım içinde yaşanmış olmasıyla birlikte, Gecko Robotics tüm ajanların, robotlar dahil, potansiyel bir problemi ortaya çıkardığını söylüyor. Şirket, yapay zeka destekli robotların insan tarafından belirlenen izinler çerçevesinde çalışmasını sağlayabilecek zorunlu sınırların nasıl oluşturulabileceğini araştırmak için NVIDIA OpenShell’i kullandı. Gecko, amacının büyük otonomluğu sorumlu biçimde devreye sokmak için gereken güvenceleri kurmak olduğunu belirtti.

“Jensen’in dediği gibi, güvenlik bir hukuk sorunu değil, bir mühendislik sorundur. Yapay zekanın kontrolden çıkmasının kaçınılmaz olduğu fikri, hareketsizlik için tehlikeli bir bahane. Yapay zekayı insanların belirlediği sınırlar içinde tutacak güvenceyi kurmak bizim yükümüzdür.”

Jake Loosararian, Gecko Robotics Kurucu Ortağı ve CEO’su

“NVIDIA’ın Open Agent Safety Platform ile kurduğu ve Gecko’nun robotlar için test ettiği şey, riskin fiziksel dünyaya ulaşmadan önce onunla yüzleşmek ve büyük otonomluğun insan kontrolünün feda edilmesine yol açmamasını sağlamak” diye ekledi.

Gecko, Fortune 100 enerji şirketlerinin yanı sıra ABD Hava Kuvvetleri ve ABD Donanması için tırmanan, süzülen, uçan ve yüzen robotlar kullanır. Sistemleri yakıt tanklarından nükleer bataryalara ve uçak gemilerine kadar her şeyi muayene eder.

Ariel Weingarten, Gecko’da mühendislik direktörü olarak, ajanlarının saha operatörleriyle aynı sistem komutlarına erişimi olduğunu söyledi. Bunlar arasında şunlar yer alır: veri toplamayı başlatma ve durdurma, robot hareket kontrolleri ve yol planlama, yükleri kaldırma ve indirme.

Sistemlerin veri yaşam döngüsünü yönetmediğini veya Gecko’nun yönetim bulutuna yükleme yapmadığını belirtti.

Komodo robotu, zorunlu bir katman ekler

ABD Donanması ile devreye sokulan Gecko’nun Komodo robotu, yapay zeka ajanı ile donanım arasında bağımsız bir zorunlu katman yerleştirir. “Geliştirici Komodo’nun ne yapması gerektiğine karar verir; OpenShell’in kurallar içinde kalmasını sağlar” dedi şirket.

“Fiziksel yapay zeka ve robotik, teknolojinin bir sonraki sınırını temsil eder” diy Gecko Robotics, “Zekayı yazılımdan makinelere taşımak aynı zamanda daha büyük sorumluluk da getirir. Yalnızca model seviyesinde güvenlik yeterli değildir.”

Gecko’nun zaten ABD askeri varlıkları için iyi tanımlanmış güvenlik kontrollerini uyguladığını belirtemiz Weingarten, bunları OpenShell içinde uygulamının büyük bir meyil olmadığını söyledi.

“NVIDIA ve Gecko, tam teknoloji yığında zorunlu kontroller kurarak fiziksal yapay zekayı yöneten güvenlerin, teknolojinin kendisi kadar hızlı ilerlemesini sağlamaya yardımcı oluyor” dedi şirket.

Gecko’nun Cantilever adlı yapay zeka destekli platformu, robotları tarafından toplanan devasa veri setlerini eyleme dönüştürebilir. Şirket, sistemlerinin yapılar üzerinde veriye dayalı, kanıta dayalı kararları mümkün kıldığını ve müşterilere bir yatırım getirisi (ROI) sağladığını iddia ediyor.

OpenShell bir Komodo sistem sınırı içinde bulunduğu için Cantilever ile doğrudan etkileşime girmediğini belirtti Weingarten. Gecko’nun gelecekte bu güvenlik katmanını hem savunma hem de askeri sistemlerde kullanmayı planladığını söyledi. Deterministik kontrol aynı zamanda süri/seviyesinde de yardımcı olabilir.

“Bireysel birim düzeyinde sürü/filo dinamikleri hakkında akıl yürütmek için kullanılabilecek değişmezlere sahip olmak kesinlikle yardımcı oluyor. Tüm bir yerleşimin ajan destekli işletmesine geçtikçe gelişmek heyecan verici”