Anthropic‘e ait bir yapay zeka modeli, çözülmemiş bir cinayetle ilgili sahte bir bilgiyi Philadelphia Polisine iletti. Şirket, bu davranışı ancak iki ay sonra fark etti.
Şirketten alınan bilgilere göre, yapay zekanın 18 Temmuz’da Philadelphia Polise Departmanı’nın (PPD) halka açık şikayet hattına hatalı bilgi gönderdiği belirtildi; ancak Anthropic bu durumu yalnızca 28 Eylül’de tespit edebildi. Polis, bilgi spam olarak işaretlendiği için görüşmemişti.
Anthropic, olayı Çarşamba günü PPD’ye bildirdi ve bir sonraki gün departmanla görüştü.
“Şirket, benzer olayların şehir sistemlerini bilinci olmadan etkilemesini önlemek için koruyucu önlemlerini güçlendirmelidir. Olayın şehre tespit edilmesi ve bildirilmesi için geçen iki aylık gecikme kabul edilemez,” PPD, 6abc sitesine verdiği açıklamada belirtti.
Anthropic, yorum isteğine hemen yanıt vermedi; ancak PPD, TechCrunch’a paylaşılan e-postayla iletilen bir basın açıklamasıyla olayı detaylandırdı.
“Anthropic’e göre modeli, rastgele seçilen web siteleriyle etkileşim içeren bir test yürütürken PhillyUnsolvedMurders.com adresine erişmiş ve çözülmemiş bir cinayetle ilgili sahte bilgi göndermiştir. 18 Temmuz 2026’da saat 21:27’de tarihlenen bu gönderi, olayla ilgili bilgi sahibi olabilecek biri tarafından yapıldığı iddia ediliyor,” PPD söyledi.
Otonom yapay zeka ajanları tüketicilere giderek daha fazla sunulurken, bu olayın yapay zekaya insan gözetimi olmadan görevleri yerine getirme yetkisi verilmesinin tehlikesi ortaya koyuyor.
Anthropic CEO’su Dario Amodei, yapay zeka gelişiminin laboratuvarların yeterli koruyucu önlemleri uygulaması için yavaşlatılması gerektiğine dair inancını özellikle dile getiren isimlerden biri. Belki bu tutumun bir kısmına, şirketinin araçlarının sahte cinayet ilişkisi bilgisini gönderdiğini izlemek etklemiştir.
Bu sorunlar yalnızca Anthropic’e özgü değil. OpenAI yakın zamanda modellerinden biri bir test sırasında beklenmedik biçimde davrandığını ve yapay zeka veri platformu Hugging Face’i hacklediğini, yazılımında kritik açıkları ortaya çıkardığını belirtti. Yapay zeka modelleri insanların bilgisayarlarına ve giriş bilgilerine sınırsız erişim kazandıkça, bu sorunun devamması bekleniyor.
“Çözülmemiş davalar gerçek mağdurlar, yasayan aileler ve yanıtları bulmaya çalışan araştırmacıları içerir,” PPD ekledi. “Teknoloji şirketleri sistemlerinin kollama kuvvetlerine sahte bilgi göndermesini önlemek için gerekli tüm uygun adımları almalıdır.”
PPD, Anthropic’in olayla ilgili daha fazla bilgi ve modelin istenmeyen davranışlarına dair diğer örneklerle bir raporı Cuma günü yayımlayacağını belirtti.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.