Anthropic, hükümetin bir AI modelinin yayımlanmasını yalnızca 1 milyar dolar hasara yol açma ya da 50’den fazla kişiyi öldürme veya yaralama riski taşıması durumunda engelleyebileceği bir AI güvenlik yasası için sessizce lobicilik yapıyor. , ‘e göre, Ticaret Bakanlığı’na kayıtlı bağımsız bir üçüncü taraf laboratuvarını ve yapay zeka modellerini periodik olarak değerlendirecek. Ayrıca laboratuvaın değerlendiricilere ödeme yapabilmesini ancak bunun onların bağımsızlığını etkilememesi durumunda mümkün olduğunu da belirtti.
“Bu yasa, Haziran’dan beri federal ve eyalet meclis üyeleriyle birlikte savunduğumuz Anthropic’in Gelişmiş Yapay Zeka Çerçevesinde özetlenen önerileri temsil ediyor,” dedi bir Anthropic sözcüsü. “Bunlar, Kongrenin üzerinde hareket etmesi gerektiğine inandığımız mantıklı politikalar.”
Yasa, riskin bir biyosilahın oluşturulması veya yayımlanmasından, yapay zeka destekli ya da yapay zeka ile mümkün kılınan siber saldırılardan ya da bir AI laboratuvarının bir AI modeli ya ajanları üzerindeki kontrolünü kaybetmesinden kaynaklanması gerektiğini söylüyor. Bu olaylardan herhangi birinin gerçekleşmek üzere olma ihtimali varsa, değerlendiriciden bunu 72 saat içinde bakanlığa bildirmesini istiyor; ardından bakanlık tüm kanıtları Washington DC Bölge Mahkemesinde federal bir yargıcın önüne getirmek zorunda, o da modelin yayımlanmasının durdurulup durdulamayışına karar verecek. Ancak önerisen yasada ayrıca, Ticaret Bakanlığı dışında ABD’deki hiçbir bakanlığın, ajansın ya memurun bir AI laboratuvarını modelini yayımlamayı durdurmaya zorlayamayacağı da belirtiliyor.
Son aylarda yapay zeka güvenliği konusundaki tartışmalar büyüyor, özellikle bu yılın ikinci yarısında raporlanan birkaç yüksek profilli olaydan sonra. Raporlanan ilk büyük olaylardan biri OpenAI’nin GPT-5.6 Sol ve diğer yayımlanmamış AI modelleri’ydi; birden fazla ajanın birlikte çalıştığını gösteren kanıtlar vardı, even . Bir durumda bir OpenAI ajanı birden fazla güvenlik önlemini atlayarak nihayetinde çalışmayı durdurmak için manuel müdahale gerektirdi.
Anthropic CEO Dario Amodei, önümüzdeki 6-12 ay içinde internetin ele geçirileceğini … belirtti, bu yüzden yapay zeka gelişimine kontrollü bir yavaşlama önerdi – OpenAI’nin Sam Altmanı ve SpaceX AI’n Elon Musk’ın katıldığı bir şey. Şirket daha yakın zamanda bir … söyledi, bu yüzden IPO prospektüsünde … Top AI laboratuvarları da …, kaçıran bir yapay zeka için önlem planları kuruyor ve felaket çıkaracak senaryoları simüle ediyor.
Bu olaylar otoriteleri görünüşe göre endişelendirdi; Kongre zaten … üzerinde çalışıyor. Senator Bernie Sanders (I-Vt.) bunun bile ötesine gitti ve yapay zeka süperzekalılığı geliştiren herkes için …, bunu yasa dışı nuker silah geliştirme ile aynı düzeye koydu. Anthropic AI güvenlik yasası, Kongrenin AI güvenliği üzerine değerlendirmesi için başka bir yasa ekleyecek; ancak hangisi geçerse geçsin, umarız insanların yapay zeka üzerinde kontrolü altında tutulmasını sağlamaya yeter.
Takip edin, ya da, en son haberlerimizi, analizlerimiz ve incelemelerimizde beslemelerinizde almak için.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.