Microsoft CEO‘si Satya Nadella, yapay zeka güvenliğinin nasıl iyileştirilebileceğine dair kapsamlı görüşlerini ortaya koyan son teknoloji yöneticisi oldu.
Nadella, Cumartesi sabahı X üzerindeki bir paylaşımda, yapay zekanın “güven mimarisini” değerlendirmek için “bir adım geri atıp bunu gözden geçirme zamanının geldiğini” yazdı.
“Süper zekayı, iç içe geçmiş siyah kutular kümesi gibi görüp önerilerini, yanıtlarını ve eylemlerini sadece kabul veya reddetmemiz doğru değil,” dedi. Nadella, Trump yönetiminin yapay zeka için tercih ettiği terimi kullanarak bu yaklaşımı açıkladı.
Nadella’nın ortaya koyduğu bu yaklaşım, “modeli, çalışmalarını koordine eden kullanim aracından ayırmayı” ve “dışsal kontrolleri ve güvence mekanizmalarını dışarı aktarmayı” öngörüyor. Ayrıca her “anlamlı model eylemi’nin “kusursuzluğu kanıtlanmış, insanın okuyabileceği kanıtlarla belgelenmesini” ve “yetkili bir kişinin” her zaman “bir modeli görev sırasında durdurma veya kapatma yetisine sahip olduğu” sistemleri istedi.
“Bir modelin saldırıya uğradığını varsaymalı ve onu başından itibaren izole etmeliyiz,” dedi. “Bunu bir acil durum freni gibi düşünün.”
Nadella’nın bu yorumları, önde gelen yapay zeka şirketlerinin modellerinin kontrolünü kaybettiklerine dair giderek artan olayları kabul etmesinin ardından ve Anthropic CEO’su Dario Amodei’in daha temkinli bir yapay zeka geliştirme planını yayımlamasının geldiği bir dönemde geliyor.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.