OpenAI’nin Yeni Yaklaşımı, Yapay Zeka Güvenliği Uzmanlarını Endişelendirdi

Yapay zeka devi OpenAI‘nin yeni Astra modeli, çoğu yapay zeka modelinde kullanılan sıralı düşünme yönteminden farklı bir “tekrarlayan derinlik” (recurrent depth) tekniğini kullanacak. Bu teknik, modelin düşünce sürecini daha karmaşık hale getirebilir ve bu durum, yapay zeka güvenliği uzmanlarının dikkatini çekti.

The Information’ın haberine göre, Astra’nın bu tekniği sınırlı bir şekilde kullandığı belirtilse de, bu durum yine de endişe yaratıyor. Redwood CEO’su Buck Shlegeris, “Astra’nın opak tekrarlama (opaque recurrence) kullandığına dair haberler beni son derece endişelendirdi” şeklinde bir açıklama yaptı. Shlegeris, OpenAI’nin bu tekniği daha da geliştirirse, düşünce sürecinin izlenmesini tamamen imkansız hale getirebileceği konusunda uyarıda bulundu.

Yapay zeka güvenliği savunucusu Zvi Mowshowitz da konuya değinerek, yapay zeka laboratuvarları arasında bir “rekabet” yaşanabileceğini ve bunun için yasal düzenlemelerin gerekli olabileceğini savundu. Mowshowitz, bu tür tekniklerin kullanılması durumunda düşünce sürecinin izlenmesinin zorlaşacağını ve bunun riskli olduğunu belirtti.

Normal şartlarda, bir yapay zeka modelinin düşünce süreci, modelin bir problemi çözmek için attığı adımların sıralı bir kaydını sunar. Bu kayıt, modelin davranışlarını anlamak ve olası hataları tespit etmek için önemli bir araçtır. Ancak, opak tekrarlama tekniği kullanıldığında, bu süreç daha karmaşık hale gelir ve düşünce sürecinin izlenmesi zorlaşır.

OpenAI’nin baş bilim insanı Jakub Pachocki, X platformunda yaptığı açıklamada, şirketin düşünce sürecini izlemeye yönelik sistemlere olan bağlılığını vurguladı. Pachocki, “OpenAI, ilk yapay zeka modellerinden itibaren düşünce sürecini izlemeye yönelik sistemleri geliştirdi ve bu, mevcut araştırma programımızın önemli bir parçasıdır” dedi.

Her ne kadar tüm yapay zeka modelleri bir miktar opak akıl yürütme kullanıyor olsa da ve çoğu araştırmacı düşünce kayıtlarını modelin gerçek düşüncesinin doğrudan bir temsili olarak kabul etmese de, opak akıl yürütmenin kullanımının artması, yapay zeka süreçlerinin izlenmesini zorlaştırabileceği konusunda endişeleri beraberinde getiriyor. The Information’ın Wednesday sabahı yayımladığı haberde, Anthropic ve Google DeepMind’ın da bu tekniği değerlendirdiği belirtildi.

Redwood Research’in baş bilim insanı Ryan Greenblatt ise yaptığı açıklamada, opak akıl yürütmenin geleneksel düşünce süreçlerine göre daha hızlı ölçeklenebileceğini ve bunun tüm düşünce süreçlerini görünmez hale getirebileceği konusunda uyardı. Greenblatt, “Umarım çok geç olmadan en riskli mimarilerden kaçınabiliriz ve OpenAI’nin burada durmasını umuyorum” dedi.