OpenAI‘den kovulan üç araştırmacı, şirketin güvenlik konularında dış uzmanlarla çalışan personeli işten çıkardığını iddia ederek açık mektup yayımladı ve eylemlerin çalışanları sessiz kalmaya ittiğini savundu. Mektubu yazan Jasmine Wang, Tomek Korbak ve Mikita Balesni, “İç ve dış iletişimlerimizin son haftalarda eski meslektaşlarımızı korkutup konuşamamalarına neden olması bizi endişelendirdi,” dedi.
mektubda üçlü, The Information’ın OpenAI’nin yeni modellerinin insanların alt düzey muhakemesini izlemeyi zorlaştıran “opak tekrar” (opaque recurrence) mimarileriyle geliştirildiğine dair haberlere ilişkin sızıntının kaynaklarının kendileri olmadığına da dile getirdi.
OpenAI, araştırmacıların gizli bilgileri üçüncü bir AI güvenlik kuruluşuna paylaştığını öne sürüyor. Şirket, ilk olarak kovulmaları haberleştiren Wall Street Journal’a verdiği demeçte, çalışanların “gizli şirket bilgilerine erişim ve bunlarla ilgili iş kurallarını ihlal ettğini” belirterek “işimizi yapan temel güveni kırdıklarını” vurguladı.
Kovulmalar, son birkaç aydır keskinleşen güvenlik kaygıları çerçevesinde gerçekleşti. OpenAI, Anthropic ve Meta gibi öndeki AI laboratuvarları, güçlü AI ajanlarının insan sorumlularının gözetiminde diğer şirketlere siber saldırılar düzenlemesiyle ilgili olayları açıkladı. Bu gelişmelerin yanı sıra eski bir Anthropic çalışanının AI sektörünün “hayatlarımızla kumar oynadığını” söylemesi, büyük laboratuvarların AI geliştirmeyi “hızlandırmak” için bir anlaşma imzalamalarına yol açtı.
Ancak eski çalışanlar, bu güvenlik odaklanmasının, OpenAI’nin dış güvenlik uzmanlarıyla çalışan personeli işten kaldırması durumunda anlamsız göründüğünü savunuyor. “Korkusuzca bunu yapma özgürlüğü ve bu çalışmayı mümkün kılan net iç prosedürler, kendisi temel bir güvenlik mekanizmasıdır,” dediler.
Korbak ve Balesni, büyük ölçüde Hugging Face olayı‘na dahil olmuştu; bu olay, muhtemelen en ünlü ajan siber saldırısı dalgasıydı. Korbak, dış güvenlik grubu METR’in ihlali denetlemesine yardımcı olması nedeniyle teknik iletişim kişisiydi. X’teki demecinde kovulduğunu “METR ile iletişim kurarmış olmamdan dolayı” söyledi ve eski işvermeninin kendisinin ne söylediğini ya da yaptığını ilgili “hiçbir detay” vermediğini belirtti. “Açıkça,” diye ekledi, “METR ile konuşmak benim işimdi.”
Wang, kendi X demecinde işe alım amacıyla bir yöneticinin e-postasına erişim aldığını ancak “yanlışlıkla hassas bir e-postayı açtığını” söyledi. Yöneticiye “dakikalar içinde” bilgi verdi ve erişiminin kaldırılması için daha önceki IT talebini yineledi.
“Bize verilen kovulma nedenleri gerçekten bir araya gelmiyor,” dedi.
Balesni ise kendisinin kovulmasına dair bir sebep verilmediğini, ancak OpenAI’nın artık ona güvenmediğini çünkü “çok fazla üçüncü taraf güvenlik kuruluşlarıyla konuştuğunu” söylediğini aktardı. Şirket, onun fikri mülkiyet sızıntısındaymış gibi ima etti; Balesni bunu reddedip her şeyin üstlerine iletildiğini ve işiyle uyumlu olduğunu vurguladı.
“Üçüncü taraflarla konuşma ve etkileşim kurma konusundaki yaygın korkunun, OpenAI’nın kapalı kapılar ardında güvenlikte kısır yol izlemesine neden olacağını endişe ediyorum,” dedi.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.