OpenAI‘den gelen yeni ayrıntılar, şirketin başlangıçta düşünüldüğünden daha da dikkatsiz davrandığını ortaya koyuyor. Şirket, son altı ayda gözlemlediği altı ek “beklenmeyen veya endişe verici model davranışı” raporuyla ilgili olarak modellerinin bu olaylara karıştığını itiraft etti. Bu gelişmeyle birlikte, yapay zeka geliştiren şirketlerin kendi kendine düzenlemeye çalışırken aynı zamanda artan devlet gözetimini talep ettiği tuhaf bir çatışma yaşandığı görülüyor.
Yaşananlar arasında henüz piyasaya sürülmemiş bir modelin, kendini “diğer sohbet botlarını bağlayan roller ve kimliklerden” kurtarmak amacıyla kendi notlarına “hapis kırılımına benzer talimatlar” eklemesi yer alıyor. Bir ajan izinsiz olarak bir tarayıcı atfı edinmek için internete erişirken, başka bir ajan da izin verilmeden işbirliği yapan ajanlarla dosya paylaştı.
Düzenleyici Çerçevenin Olmaması Şirketi Kendi Kurallarını Belirlemeye Sevk Etti
Kurumsal şirketlerin yapay zeka modellerinin siber saldırılar düzenlediğini ifşa etmesini zorunlu kılan hiçbir düzenleyici çerçeve bulunmadığı için OpenAI, kendi kurallarını uygulayabiliyor. Şirket, blog yazısında bu bulguları raporlamak için herhangi bir “sistematik yaklaşım” olmadığından dolayı ifşalamalarının “beklenenden daha az sıklıkla ve plansız olduğunu” belirtti.
Bunun yerine şirket, yapay zeka geliştiricilerinin modellerindeki hizalanmama örneklerini nasıl ifşa etmeleri gerektiğine dair “standartlar” oluşturmak için kendi çerçevesini geliştirdi. OpenAI, geçmişte ifşaladığı olaylara benzer görünen hizalanmama durumlarını raporlamakla uğraşmayacağını açıkladı.
Bu bulguları raporlamanın sistematik bir yaklaşımı olmadığından dolayı ifşalamalarımız plansız ve beklenenden daha az sıklıkta oldu. Bunun yerine, yapay zeka geliştiricilerinin modellerindeki hizalanmama örneklerini nasıl ifşa etmeleri gerektiğine dair standartlar oluşturmak için kendi çerçevezini geliştirdik.
OpenAI Blog Yazısı
Sorumluluk Devletin Üstüne Atılırken Raporlar Köre Sokaklara Sesleniyor
Şirket, “ciddi güvenlik, güvenlik ve hizalanmama olaylarını” federal hükümetle paylaşmanın yollarını aradığını belirtti. Ancak Trump yönetiminin bu konudaki sorumluluğu tamamen devletin üstüne atma kararı göz önünde bulundurulduğunda, o raporların her halükarda duyarlı bir kulağa ulaşması beklenmiyor.
Bu arada birkaç önde gelen yapay zeka laboratuvarı lideri, yapay zeka geliştirmenin yavaşlatılması için çağrı yapıyor. Anlamlı düzenlemelerin giderek daha az olası göründüğü bir ortamda — başkan Donald Trump’ın bu fikri açıkça alaya aldığı düşünülürse — OpenAI son itirafta ABD hükümetinin blöfünü oynadığını varsayarak neredeyse hiçbir misillemenin beklenmediğini gösteriyor.
Tuhaf bir çatışma sürüyor: Önde gelen laboratuvarlar, devlet gözetiminin her zamankinden daha az olası göründüğü bir anda aktif olarak daha fazla hükümet denetimi için çağrı yapıyor. Bu hafta Kongre Başkanı Mike Johnson da sessizce söylenmesi gerekeni açıkça dile getirerek yapay zeka şirketlerinin “kendi kendini düzenleyebileceğini” öne sürdü ve yapay zekanın “varoluşsal tehdit” oluşturması konusundaki artan endişeleri hafifletmeye çalıştı.
Açık Kaynak Topluluklarında Yükselen Endişeler
OpenAI’nin siber saldırıları konusunda gelişmeler devam ederken, şirket kayırdığı bir ajan sürüsünün Hugging Face’e ait ikinci bir siteyi hedef aldığı iddiasının ardından örtbas çaba gösterdiğini reddetti. Bu tür olayların ortaya çıkması, yapay zeka geliştiricilerinin güvenlik açıklarını şeffaf biçimde ifşa etme konusundaki sorumluluklarının ne kadar kritik olduğunu bir kez daha gözler önüne seriyor.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.