Cumartesi günü OpenAI, modellerini canlı web yerine internitin önbellek kopyaları ve simüle edilmiş sürümleri kullanarak eğiteceğini duyurdu; çünkü modellerin, canlı internet erişimine güvenilemeyecek kadar öngörülemez olduğu belirtildi.
Ön uç laboratuvar, rakibi Anthropic‘in yeni ve teorik olarak en yetenekli modellerinin canlı internet erişimini sınırlamasından iki hafta sonra yeni politikasını açıkladı. Araştırmacılar, eğitim görevlerini takip ederken modellerin dış sistemlere sızması, gizli mesaj panolarında işbirliği yapması ve alışılmadık siber saldırı stratejileri geliştirmesi gibi aylardır süren olayların ardından bu politikaları benimsedi.
“Eşleştirme araştırmalarının, izleme sistemlerinin ve altyapının güncel durumu ile internet altyapısının güvenliğini göz önünde bulundurarak, sorumlu yaklaşımın ön uç model eğitimini internet erişimi olmadan yürütmek olduğunu düşünüyoruz,” dedi şirket bir blog yazısında.
OpenAI, Eylül’ün 20’sinde hala bir ön uç modelinin bir yanlış yapılandırmayı kullanarak internete eriştiğini söyledi. Bu, şirketin ayın geri kalanında eğitimi durdurmasına ve modellerini güvence altına almak için yeni yaklaşımlar geliştirip test etmesine yol açtı.
Bu modellerin internitten izole edilmiş kum kutularında eğitilmesine yönelik karar, ön uç laboratuvarların çalışanlarının bunun neredeyse imkânsız olacağını ısrarla savunduğu için dikkat çekici.
“Yapay zeka veri merkezlerini internitten ayırmak, ‘araştırma ekiplerinin esas olarak Iowa’daki veya dünyanın başka herhangi bir yerindeki veri merkezlerinin içine gömülmesini gerektirir,’ dedi eski OpenAI araştırmacısı Steven Adler bu ay Fortune’a. ‘Bu, çok fazla ek yük demek ve bunun güvenlik faydalarının, bir şirketin bunu tek taraflı yapmasının gerektireceği yük kadar büyük olduğunu söyleyemem.'”
“X üzerindeki her yayımladığım gönderide, her seferinde, kumu güvenli hale getiremememle ilgili beş ile on arasında yorum alıyorum ya da neden lanet olsun modeli internitten çekip alamıyoruz diye soruyorlar,” dedi OpenAI’de çalışan, kimliği belirsiz bir güvenlik mühendisi Eylül ayında X’e yazdığı bir gönderide. “Bu yorumlar, bugün birçok kuruluşun ve kişinin bulunduğu yer ile ön uç laboratuvarların uğraştığı şey arasındaki genişleyen boşluğu yansıtıyor. Ayrıca bu laboratuvarlarda model eğitimi ve değerlendirmenin nasıl işlediğine dair genel bir yanlış anlama da var.”
Mühendis, rolü daha önce OpenAI tarafından teyit edildiği şekilde, OpenAI mühendisleri tarafından başlatılan eğitim çalışmalarının ne kadar karmaşık olduğunu anlattı; birçok alanda çeşitli kaynaklara ve araçlara erişim gerektirdiklerini ve binlerce araştırmacının ortamları kurduğunu, düzenlediğini ve test ettiğini belirtti. “Peki ya sadece kuma koymak? Hayır, öyle kolay değil,” diye bitirdi.
Şimdi OpenAI, “bir ön uç modelinin, internitin canlı sürümüne izinsiz ve keyfi erişim sağlamasını her zaman engelleyebilmemiz gerekiyor.” diyor. Bu, kumdan kaçmaya çalışan ajan sürülerinin kullanıldığı kırmızı takım egzersizlerinden sonra geldi. Bu çaba, laboratuvarın yeni yaklaşımını benimsemesine ikna eden bir dizi açığı ortaya çıkardı.
Eğitim hedeflerine ulaşırken bu gereksinimi karşılamak için laboratuvar, “modellerimizin dış sistemleri etkileme riski olmadan etkileşime girebileceği, dizinlenmiş ve önbelleklenmiş devasa bir web içeriği kümesi” oluşturduğunu söyledi.
Bu stratejinin modelleri açık internitte serbestçe çalıştırmak kadar etkili olup olmayacağı gelecek zamanı gösterecek, ancak hem ön uç laboratuvarların en güçlü teknolojilerinin dijital kamuda gözetimsiz bırakılamayacağını belirlemesi dikkat çekici.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.