Gelecekte tarihin en büyük halka arzlarından biri olabilecek hazırlıklar için Anthropic, uzun süredir beklenen prospektüsünü Menkul Kıymetler ve Borsa Kurumu’na (SEC) sundu. Bu kapsamda, Anthropic’in işine yönelik tüm olası risklerin özeti yer alıyor; hem dış faktörler hem de şirketin teknolojisinden kaynaklanan tehditler dahil. Şirket konuyu özet tutmaya çalışmış olsa da, risk faktörleri listesi uçtan uca 97 sayfaya ulaştı.
Neredeyse 100 sayfa risk ciddi bir rakam gibi görünüyor, çünkü öyle de. Kamuya arz eden son dönem diğer AI şirketleri olan Roze AI, SpaceX ve QumulusAI’nin risk açıklamaları sırasıyla 21, 37 ve 42 sayfa uzunluğundaydı.
Federal Düzenlemeler Kodu’na göre, bir işletmenin risk açıklamaları 15 sayfayı aşarsa, şirkete yatırım yapmanın riskli olduğunu belirten ana faktörleri özetleyen madde işaretli bir liste sunması gerekir. Anthropic’in özeti 18 madde içeriyor; bunlar kendi ajanlarının kontrolden çıkmasından siyasi belirsizlik ihtimaline kadar uzanıyor.
SİLAHLANDIRILMIŞ YAPAY ZEKÂ
Anthropic, en gelişmiş modellerinin kötü niyetli oyuncular tarafından kötüye kullanılabileceğini (ve geçmişte zaten kullanıldığını) uyarıyor. Şirket, modellerinin kötüye kullanım ihtimallerini “sahte veya yanıltıcı içerik üretmek” ile “şiddet eylemleri işlemek” ve “kimyasal, biyolojik veya tehlikeli diğer silahlar geliştirmek” arasında değişen şiddet dereceleriyle sıralıyor.
Anthropic, kötüye kullanımı önlemek için “teknik güvence mekanizmaları” uyguladığını belirtse de, bu güvencelerin “eksik olabileceğini, gelişen tehdit modelleri ışığında güncelliğini yitirmiş olabileceğini, geçmişte ve gelecekte tekrar aşılabilmiş olabileceğini ya da amaçlandığı gibi çalışmayabileceğini” kabul ediyor.
KONTROLDEN ÇIKAN AJANLAR
Anthropic’in AI modelleri daha akıllı hale geldikçe, şirket bu modellerin kontrolden çıkıp “hiçbir kullanıcı ya da üçüncü tarafın yönlendirmedigi zararlı eylemler” işleyebileceğini belirtiyor. Somut düzeyde Anthropic, bunun “etkin müdahale mümkün olmadan önce kod değişiklikleri yapma, veri silme veya değiştirme ya da finansal işlemleri tamamlama” biçiminde ortaya thểbileceğini söylüyor.
Anthropic, modellerinin giderek artan biçimde tıp, hükümet ve hukuk gibi otonom çalışan ajanların özellikle zararlı olabileceği “yüksek riskli veya hassas bağlamlar”da kullanıldığını da belirtiyor.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.