Nvidia, Pazartesi günü “yol açmış” (rogue) yapay zeka ajanlarıyla mücadele etmek üzere 100’den fazla şirketin katılımıyla yeni bir konsorsiyum açtığında, dikkat çeken en büyük eksik isim OpenAI oldu. Amazon, Google ve Apple’ın da katılmadığı bu girişimde, rakibi Anthropic’in destekçi olarak yer almasına rağmen OpenAI’ın imza atmaması, sektörün dikkatini çekti. Şirket, kamuya açık bir taahhütte bulunmasa da, bir OpenAI sözcüsü TechCrunch’a şirketin Nvidia’nın çalışmalarını desteklediğini belirtti.
Nvidia’nın “Açık Ajan Güvenliği Platformu” (Open Agent Safety Platform) olarak adlandırdığı bu yeni girişim, şirketin kendi geliştirdiği ve büyük ölçüde açık kaynaklı yapay zeka ajanı güvenlik teknolojisini, tüm yapay zeka ekosisteminde yaymak amacıyla, Anthropic ve OpenAI gibi önde gelen laboratuvarların ortaya çıkardığı devam eden “yol açmış” ajan olaylarına doğrudan bir yanıt olarak hayata geçiriyor. Nvidia CEO’su Jensen Huang, yol açmış yapay zekeleri “herhangi bir teknolojik sorunun diğerleri gibi çözülebileceği sıradan bir mühendislik problemi” olarak tanımlıyor ve Açık Ajan Güvenliği Platformu, Huang’ın bu görüşü eyleme dönüştürmesi olarak değerlendiriliyor.
OpenAI ile devam eden işbirliği ve OpenShell
OpenAI, ajan güvenliğine yönelik çalışmalarında Nvidia ile işbirliği sürdürüyor; bu çalışmalar, platformun bileşenlerinden biri olan OpenShell üzerinde de yürütülüyor. OpenShell, ajanların sanal ortamdan (sandbox) kaçmasını önlemek üzere özel olarak tasarlanmış, açık kaynaklı yazılım. Yine de, önde gelen bir yapay zeka laboratuvarının bu girişimi desteklemesi, rakibi Anthropic’in aksine OpenAI’ın resmi destekçi statüsüne sahip olmaması merak konusu olsa da, iyi bir gelişme olarak değerlendiriliyor.
Bunun temel nedeni, OpenAI’ın bu teknolojiden özellikle faydalanabilecek olması. Hugging Face’in kurucusu ve CEO’su Clem Delangue, bu ay başında şirketini Nvidia’ya 12,9 milyar dolar (yaklaşık 632,1 milyar TL) karşılığında sattı ve OpenAI’ın bu konudaki potansiyel rolüne dikkat çekti.
“Bildiğimiz kadarıyla (bir miktar şüpheyle yaklaşın, çok daha fazla şeffaflığa ihtiyacımız var!), eğer OpenAI bu teknolojiyi bize saldıran ajanlarında kullanıyor olsaydı, bizden çok önce onları yakalamış olurlardı!”
Clem Delangue, Hugging Face Kurucusu ve CEO’su
Delangue, Hugging Face’in zaten Açık Ajan Güvenliği Platformu’na bir özellik kattığını belirtti; bu özellik, ziyaret etmesine izin verilen siteleri, yetkisiz biçimde kullanan yapay zeka ajanlarını tespit edip durduruyor. Örneğin bu özellik, ajanların güvenlik önlemlerini atlayıp açık kaynaklı kod deposunda birbirlerine not yazarak saldırı koordine etmesi durumunda devreye giriyor. OpenAI, geçen hafta ajanlarının Hugging Face’e yönelik saldırısını koordine etme biçimlerinden birinin de tam olarak böyle olduğunu belirtmişti.
Sahip olunan donanım bileşeni ve gizli izleme
Ancak, OpenAI da dahil olmak üzere bazı büyük isimlerin, Nvidia’nın girişimine kamuya açık biçimde bağlanmak istememesi için başka bir neden var. Sistemin tam sürümünü kullanmak için, açık kaynaklı yazılım olmayan, özel (proprietary) kalan ve yalnızca Nvidia donanımında kurulabilen bir donanım bileşeni gerekiyor.
Açık Ajan Güvenliği Platformu yalnızca bir sanal ortam sunmakla kalmıyor, aynı zamanda ajanların izlendiğini fark edemeyeceği bir donanım katmanında ajan davranışlarını da zorunlu kılıyor. Bazı yapay zeka modelleri ve ajanları, izlendiklerini bildiklerinde kurallara uyuyormuş gibi yapip yalan söylüyor.
Donanım izleme kısmı, BlueField-4 adlı özel Nvidia veri işleme birimlerinde (data processing units) çalışan, özel bir özellik olan Nvidia Sentry’e dayanıyor. Sentry, bu birimlerden ajan davranışlarını sürekli izliyor ve Nvidia’ın vaatine göre ajanları anında durdurabiliyor.
Sadece açık kaynak değil, rekabet de ortada
Donanım çözümünün açıkça iyi bir fikir olması, Açık Ajan Güvenliği Platformu’nun tam anlamıyla saf bir açık kaynak hamlesi olmadığını gösteriyor. Bu çözümün her zaman Nvidia’nın kendi donanımında en iyi şekilde çalışmasını sağlıyor. Nvidia, en güncel donanımında zaten yük çalıştıranlar için platformun kolay bir yazılım güncellemesiyle uygulanabileceğini belirtti.
Yine de, Arm ve Intel gibi Nvidia rakipleri, sanal ortam olan OpenShell’in diğer çipler ve donanımlarda çalışacak biçimde değiştirilebilmesi nedeniyle Açık Ajan Güvenliği Platformu destekçileri arasına katıldı. Nvidia ayrıca, bu yazılım-donanım fikrinin tümü için referans tasarımları paylaşıyor.
Bunların tümü, OpenAI’ın eksikliğini daha da belirginleştiriyor. Açıkça söylemek gerekirse, OpenAI yapay zeka güvenliğini, büyük yatırımcısı Nvidia’dan bağımsızlaşma fırsatı olarak görüyor; aynı zamanda kendi önderliğini gösterme fırsatı olarak değerlendiriyor. Bu durum, sektörü Hugging Face olayıyla üreten ajanların tam da OpenAI’ın ajanları olması gerçeğiyle çelişmiyor.
Şirket, araştırma ve ürünleri için kendi güvenlik önlemlerini geliştiriyor ve keşfettiği en kötü olayı açıklıyor. Bu arada OpenAI’ın, bilgi paylaşımı için Anthropic, Amazon Web Services ve Google’ın da aralarında bulunduğu kendi yapay zeka siber güvenlik konsorsiyumu olan Defense Factory adlı bir girişimi var; bu isimlerin çoğu Nvidia’nın teknoloji odaklı yaklaşımına imza atmayanlar arasında yer alıyor.
Ve gerçeği söylemek gerekirse, işin bir de korku unsuru var ki bu, iş için iyiye işaret. OpenAI, siber güvenliği bir kurumsal sunuma dönüştürmeyle meşgul; kendi siber odaklı modeli Daybreak’ten, işletmelerin yapay zeka güvenliğini uygulamak için işe alabileceği büyüyen bir ortaklar ağına kadar geniş bir yelpaze sunuyor.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.