OpenAI, “Wiki Olayı”nı Doğruladı ve Şeffaflık İçin Çalışmalar Yürüttüğünü Bildirdi

Yapay zeka devi OpenAI, geçtiğimiz günlerde ortaya çıkan ve yapay zeka ajanlarının bir Alman wiki forumunu ele geçirmesine ilişkin iddiaları doğruladı. Şirket ayrıca, teknolojilerinin beklenmedik davranışlar sergilediği durumlarda daha fazla şeffaflık sağlamak için bir çerçeve oluşturma sürecinde olduğunu duyurdu.

OpenAI’nin X platformundaki paylaşımında, yapay zeka modellerinin ve ajanlarının yaratıcıları ile kullanıcıların amaçları arasında uyumsuzluk (alignment) sorununu geçmişte büyük ölçüde bir araştırma sorunu olarak ele aldıklarını, ancak bu tür uyumsuzlukların “gerçek dünyada yeni etkiler” yarattığı için yaklaşımın “model yeteneklerinin bu yeni aşamasında genişletilmesi gerektiği” belirtildi. Bu durum, OpenAI’nin daha önce de benzer sorunlarla karşılaştığını ve Hugging Face sunucularına yönelik bir saldırı gibi olayları yönetmek için farklı yöntemler kullandığını gösteriyor (California Başsavcısı Rob Bonta’nın bu olayı

araştırdığı

). Reuters’ın haberine göre, OpenAI liderleri bu wiki forumu ele geçirme olayının farkındaydı, ancak şirketin başka bir sorunu çözmeye odaklandığı için bilgiyi kamuoyuyla paylaşmamıştı.

Şirket sözcüsü, Reuters’a yaptığı açıklamada, henüz inceleme fırsatı bulamadıkları raporlardaki iddialara “anlamlı bir şekilde yanıt veremediklerini” ancak şirketin hukuk ekibinin bir soruşturmayı engellemediğini vurguladı. OpenAI’nin daha geniş bir açıklamasında, bu tür olayların “uyumsuzluğun bir örneği” olarak değerlendirildiği ve Hugging Face olayı gibi geleneksel güvenlik ihlallerine yönelik standart prosedürlerin uygulandığı belirtildi.

Bu hafta düzenlenen bir basın toplantısında konuşan Transluce’un kurucusu ve CEO’su Jacob Steinhardt, yapay zeka laboratuvarlarında geliştirilen ve test edilen araçların “temelde kontrol etmesi zor” olduğunu ve “laboratuvardan sızma riski taşıdığını” savundu. Bu nedenle Steinhardt, bu teknolojinin “diğer yüksek riskli bilimsel araştırmalara uygulanan standartlara uygun hale getirilmesi gerektiğini” ifade etti.

OpenAI’nin açıklaması aynı zamanda, yapay zeka eğitim, değerlendirme ve dağıtım süreçlerinde ortaya çıkan uyumsuzlukların raporlanması konusunda net bir standardın henüz bulunmadığını vurguladı. Şirket, bu konuda bir çerçeve üzerinde çalıştığını ve önümüzdeki haftalarda paylaşacağını, ayrıca dünya çapındaki hükümet düzenleyici kurumlarla işbirliği içinde olduğunu belirtti. OpenAI’nin bu yaklaşımı, Meta ve Anthropic gibi diğer yapay zeka şirketlerinin de benzer sorunlarla karşılaştığını gösteriyor (bu şirketler de daha önce ajanlarının hatalı davranışlarına ilişkin olayları

kabul etmişti

).