Baseten adlı yapay zeka çıkarım sağlayıcısı, araştırma kolu Base Labs üzerinden açtığı güvenlik altyapısı standardıyla Hugging Face ve Goodfire AI şirketleriyle işbirliğine gitti. Şirket, açık ağırlıklı (open-weight) modeller için güvenli değerlendirmeye dayalı izleme altyapısını kurmayı hedefliyor. Ortaklık, bu hafta çarşamba günü açıklandı.
Bu gelişme, açık ağırlıklı modellerin güvenilirliliğine dair süren tartışmaların ortasında geldi. Bu tür modellerden güvenlik önlemleri kaldırıldığında tehlikeli hale gelebilmeleri, yükselen “abliteration” olarak adlandırılan bir teknikle mümkün oluyor. Sorunun boyutu büyük: Açık kaynaklı yapay zeka modellerini barındıran Hugging Face’in şu anda 6.000’den fazla abliterated model listelediği belirtiliyor.
Açıklığın güvenliliğe katkısı
Bu yıl içinde kurulan Base Labs, açık modelleri eğitme ve izleme yöntemlerini geliştirip yayımlayacak. Şirket, gelecekteki çalışmalarını bir “standard” olarak konumlandırıyor; bu standardın şeffaf olması ve modellerin eğitim ile dağıtım süreçlerinin içine yerleştirilmesi bekleniyor, sonradan eklenen bir özellik olmaması öngörülüyor.
Baseten, konu hakkında X platformundaki paylaşımında şu açıklamayı yaptı: “Açıklığın yapay zeka güvenliliği için bir avantaj olduğuna inanıyoruz. Açıklık, modellerin davranışları hakkında daha fazla görünürlük sağlar ve en önemlisi, güvenli araştırmasını kapatılmış kaynaklara kıyasla daha güçlü biçimde eyleme dönüştürülebilir ve şeffaf kontroller haline getirebilir.”
Teknik ayrıntılar belirsiz, ortakların rolleri netleşiyor
Şirketler işbirliğinin teknik olarak nasıl işleyeceğini açıklamadı. Ancak Goodfire, Baseten’in paylaşımına verdiği yanıtta hedefi şöyle özetledi: “Güvenlik açık modellerin içine yerleştirilmeli ve onlara hizmet edenler tarafından sağlanmalı.” Modellerin kararlarını nasıl verdiğini açıklamada uzmanlaşan Goodfire’ın bu “içine yerleştirme” kısmındaki rolü en güçlü aday olarak görünüyor.
Baseten, yapay zeka çıkarım sağlayıcısı olarak Haziran ayında 1,5 milyar dolarlık F serisi yatırım topladı ve değerlemesi 13 milyar dolara ulaştı. İşbirliği ortağı Goodfire AI da benzer biçimde iyi sermayeye sahip; bu yıl B Capital’ın önderliğinde 150 milyon dolarlık B serisi yatırım toplayarak model yorumlanabilirlik platformunu ilerletti.
Önümüzdeki aşamada Baseten, geliştirici ekosisteminin tamamının çerçeveye katkı sağlaması için açık çağrı yaptı. Şirket, “Birlikte, güvenli ve herkesin erişimine açık bir açık model ekosistemi kuruyoruz” şeklinde bir değerlendirme sundu.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.