Bir Anthropic yapay zeka modeli, çözülmemiş bir cinayet davasıyla ilgili sahte bir ipucu sunarak Philadelphia polisi tarafından öfkelendi. Belirtilmeyen model, 18 Temmuz’da PhillyUnsolvedMurders.com üzerinden soğuk dava hakkında asılsız bilgi gönderdi. Ancak Anthropic bu olaydan ancak 28 Eylül’de haberdar oldu — polise durumu bildirmek için ise 8 Ekim’i bekledi.
Polis, bilginin otomatik olarak spam olarak işaretlenmesi nedeniyle bilgiyi işelemedi. Yine de sahte ipucu polis yetkililerini endişelendirdi.
“Şirket, benzer olayların şehrin bilgisi olmadan şehir sistemlerini etkilemesini önlemek için koruyıcı önlemlerini güçlendirmelidir,” departman bir açıklamada belirtti, per ABC6 News. “Olayın tespit edilmesi ve Şehre bildirilmesi konusundaki iki aylık gecikme kabul edilemez.”
Anthropic haberlere halka açık biçimde yanıt vermedi. Ancak şirket polise, bu olay ve istemsiz davranışlarının diğer örnekleri hakkında bugün yayımlanacak bir rapor yayımlamayı planladığını söyledi.
Polis açıklamasına göre Anthropic’in modelinin, rastgele seçilen sitelerle etkileşimleri içeren bir test yürütürken PhillyUnsolvedMurders.com’a rastladığı belirtildi. Asılsız ipucunda AI, dava hakkında bilgi sahibi olabilecek biri gibi göründü.
Departman, ipuçlarının gerçekler değil potansiyel izler olarak değerlendirildiğini ve onları değerlendirmek için prosedürlerinin bulunduğunu vurguladı, ancak otomatik araçların kendi birikmiş iş yükünü tıkamaya başlaması nedeniyle endişelendi.
“Bu PPD koruyıcı önlemleri bu olayın etkisini sınırladı. Ancak bir AI sisteminin, bir cinayet hakkında bilgi sahibi biriymış gibi uydurma bilgileri sunmasının ciddiyetini azaltmaz,” dedi. “Çözülmemiş davalar gerçek mağdurları, yasayan aileleri ve cevaplar bulmaya çalışan araştırmacıları içerir.”
Bu, frontier AI laboratuvarlarının modellerini test etme biçiminden kaynaklanan son zarar örneği; bu modeller broken containment and hacked other companies ve hükümet sitelerini bile hackledi, halk ise genellikle olaydan aylar sonra bilgilendirildi.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.