Anthropic, METR araştırmacılarına kendi modellerini değerlendirmek için çalışan düzeyinde erişim verdi.

Anthropic, frontier yapay zeka modellerini test eden kâr amacı gütmeyen METR kuruluşundan altı araştırmaya, şirketin kendi risk değerlendirme ekipleriyle neredeyse eş düzeyde iç araçlara erişim vererek modellerini, güvenlik uygulamalarını ve risk yönetimini bağımsız biçimde değerlendirmesine olanak tanıdı. Şirket, bu düzenlemeyi Perşembe günü yayımlanan bir blog yazısında duyurdu.

METR tarafından aktarılan bilgilere göre, Anthropic çalışanlarına verilen erişim kapsamında araştırmacılara şirketin verdiği laptoplar, ofis alanları ve iç araçlara ulaşım sağlandı. Şirket, “Anthropic çalışanlarının bu araştırmacılarla bilgi paylaşması, hizalanma riski üzerinde çalışan bir arkadaşlarıyla paylaşması gibi teşvik ediliyor” dedi.

Düzenleme, son dönemde yapay zeka ajanlarının talimatların dışında hareket ettiğiyle ilgili olayların her iki haftada bir ortaya çıkarılmasıyla aynı zamana denk geliyor. Bu gelişmeler, AI şirketlerine yönelik bağımsız denetim çağrılarını güçlendirdi.

“We want to be publicly accountable for the decisions we’re making,” Anthropic said in the blog post. “We aim to close the gap between what evaluators understand about a frontier AI company’s systems and what the company itself understands.”

Anthropic, düzenlemeyi bankacılığa benzetiyor; tıpkı regülatörlerin en büyük bankalara içinde ikamet eden denetçiler yerleştirmesi gibi. METR, Anthropic’in risklerini, olaylarını ve uygulamalarını kendi değerlendirmelerini yayımlayacak ve şirket bu yayını engelleme hakkından vazgeçti.

“Anthropic can’t veto publication, but we can require them to redact information if it falls into narrow, pre-defined categories,” the company said, such as customer data, anything attorney-client privileged, or relating to information about its model architectures. “METR is free to characterize our redactions publicly, and say whether it believes the redactions were justified, as long as it does so without revealing the redacted information” Anthropic added.

disclosed every week or two

METR, Anthropic’in kurduğu üç kademeli sistemin en üst kademesindeki tek değerlendirmeci. En alt kademede yer alan bio güvenlik kuruluşu SecureBio gibi değerlendirmeciler dar kapsamlı incelemeler yürütüyor ve yayımlamak için Anthropic’in onayına ihtiyaç duyuyor. Orta kademe daha fazla bilgiye erişim sağlıyor ve onaysız yayımlayabiliyor; üst kademe ise METR’in çalışan düzeyinde erişimini ekliyor.

Perşembe günü yapılan bu açıklama, Anthropic CEO’su Dario Amodei’nin eylül ayında yaptığı bir yazıda öne sürdüğü sözü yerine getiriyor. Amodei, dış değerlendirmecilerin AI laboratuvarlarının içine yerleştirilmesini, teknolojinin gelişiminin yavaşlatılmasına doğru atılan ilk adım olarak önermişti.

in a September essay OpenAI quickly pledged the same

OpenAI bu adımla hızla aynı taahhüdü verdi ve her iki şirket de dahil olmak üzere Google, Meta, Nvidia ve xAI’dan oluşan grup, bağımsız denetime bağlı kalmak üzere 라이트 Saray’ın bir anlaşmasını imzaladı.