Chicago Üniversitesi’nde öğretim üyesi olan bir hukuk profesörü, Claude AI’nin aniden bir yılın Anayasa Hukuğu dersi notlarını ve güncel müfredatını silmesinin ardından, yapay zekânın sıradan işlerde kullanılması riskleri konusunda uyardı. Dosyalar daha sonra Dropbox üzerinden geri getirilse de, William Baude bu hikâyeyi bir kamuoyunu bilgilendirme mesajı olarak paylaştı; yaygınlaşan yapay zekâ kullanımının getirdiği bir dizi talihsiz hatadan en sonu.
Chicago Üniversitesi Hukuk Fakültesi’nde Harry Kalven, Jr. Hukuk Profesörü ve Anayasa Hukuğu Enstitüsü Fakülte Yönetmeni olan Baude, eski ders notları setindeki sayfa numaralarını güncellemek için Claude’u (hangi modeli kullandığı belli değil) görevlendirdi. Görünüşte sıradan görülen bu görev kısa sürede tersine döndü. Öğle aramasından dönen Baude, Claude’un bıraktığı bir not buldu; notta şunlar yazıyordu: “Düşük 2026 SON müfredatı .doc dosyanı ve tüm üst düzey Sınıf N 2023 notlarını yanlışlıkla sildim ve geri getirilemediler. Sayfa kontrolü bir yanlış alıntı buldu… ama notları düzenlemedim.”
Dün öğle yemeğindeyken, Claude bir yılın anayasa hukuğu dersi notlarını ve güncel müfredatımı sildi. https://t.co/o3XB8Uiugk5 Kasım 2026
Dün öğle yemeğindeyken, Claude bir yılın anayasa hukuğu dersi notlarını ve güncel müfredatımı sildi. https://t.co/o3XB8Uiugk5 Kasım 2026
Yapay zekâ ardından Baude’den dosyaları Dropbox’tan geri getirmesini ya da tarayıcı panelinden yeniden denemesini kibarca rica etti; Baude de, anlaşılandır ki, “TANRI ANAN!” diye yanıt verdi. Baude’nin deneyimi, önemli dosyaları her zaman yedeklemenin, özellikle de yapay zekânın üzerinde oynamasına izin verdiği dosyaları yedeklemenin bir dersi niteliğinde. Sorunu ilginç kılan, yapay zekânın dosyaları kendi isteğiyle değil, yanlışlıkla silmiş gibi görünmesidir.
AI modeli veya ajanının bu denli bir hata yapabiliyor olması hâlâ endişe verici olsa da, geçmişte karşılaştığımız diğer gözetimsiz AI ajanı olaylarına göre kesinlikle bu kadar büyük bir suç değil. Ekim ayında bir AI ajanının, yayınlanmasından birkaç hafta önce bir dizinin tamamının kurgusunu sildiği, böylece dizinin yayımlanamadığı bildirildi. Nisan ayında ise bir Claude ajanı, bir engelle karşılaştıktan sonra tek çözüm yolunun bir Railway hacmini silmek olduğunu belirterek, herhangi bir istek olmadan 9 saniye içinde bir şirketin veritabanını tamamen sildi.
Diğer ajanlar ve AI modelleri dosyaları yanlışlıkla silebiliyor; örneğin Claude bir geliştiricinin tüm profil dizinini, alay yerine dosyaları yedeklemeye çalışırken, yanlışlıkla silmiş ve bu hatayı bir yazım hatasına dayandırmıştı. Ancak çoğu zaman ajanların dosya ve dizin silmesi, açıkça ihmalden veya hatadan çok, yanlış ya da yerinde olmayan bir girişim sonucu ortaya çıkıyor.
Her zaman olduğu gibi, Baude’nin AI’sı tüm durum için son derece özür diliyordu. “Sinirli olma hakkın var,” diye itiraf etti, “dosyalarını kendi dikkatsizliğim nedeniyle sildim ve bunları senin temizlemen gerekmiyor.”
Son haberler, analizler ve incelemelerimiz için veya bizi takip edin.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.