İşte karşınızda, yeni işe alınan ekonomist Chad Jones’un inandığı bazı şaşırtıcı şeyler.
Financial Times’ın yakın zamanda vurguladığı gibi, Stanford Üniversitesi’nde uzun yıllar boyunca ekonomi profesörlüğü yapan Jones, bir zamanlar yapay zekanın potansiyel faydaları karşılığında insanlığın yok oluş riskinin kabul edilebilir seviyesini değerlendiren bir makale yazdı.
Ve okuyucular: biz endişeliyiz.
“Yılda %1 oranında varoluşsal risk akışı ile 40 yıl boyunca karşılaşırsak, bu yapay zeka patlamasından kurtulma olasılığımız exp(−.01 × 40) ≈ 0.67’dir,” diye yazdı Jones.
“Başka bir deyişle, logsal fayda fonksiyonu ile, insanlığın varlığını sona erdirme riskinin %33’lük bir olasılığını kabul etmek, yaşam standartlarını 55 kat artırma olasılığı karşılığında optimaldir.”
Başka bir deyişle: insanlık tarihini silme riskiyle oynamak sorun değil – Jones’un kendi hesaplamalarına göre, hepimizi öldürme olasılığı %33 – çünkü yapay zeka sihirli bir şekilde ekonomiyi canlandırabilir ve herkesin güzel, güneş enerjisiyle çalışan yüksek katlı binalarda yaşamasına neden olabilir.
Herkes bu riskin “optimal” olup olmadığına katılmıyor.
“Bu, uzun vadede olumlu sonuçlar verse bile şu anda kaybedeceğiniz bir poker oyunu değil,” diye Reddit‘teki bir okuyucu tepki gösterdi. “İnsanlığın varlığını sona erdirmek biraz daha dikkat gerektirir.”
Jones’un görüşleri ne kadar da şüpheli görünse de, Anthropic‘te rahatlıkla yer bulacaktır. Yapay zekanın potansiyel sonuçları hakkında kamuoyunda endişe yaratmak, şirketin rakiplerine göre ahlaki üstünlük sağlamasına olanak tanır.
Anthropic’in güvenliğe bağlı olduğuna dair bir taahhütte bulunduğu doğru olabilir – ancak Claude yapay zekasının İran’daki hedefleri seçmek için kullanıldığı gibi Claude yapay zekasının İran’daki hedefleri seçmek için kullanılması, Pentagon ile güvenli teknoloji kullanımı konusunda yaşanan kamuoyu mücadelesi Pentagon ile güvenli teknoloji kullanımı konusunda yaşanan kamuoyu mücadelesi göz önüne alındığında, bu durumun arkasında daha karmaşık motivasyonlar olabilir. Ancak bu taktikin kötü bir etkisi vardır: yapay zekanın yeteneklerini abartmaktır.
Yapay zekanın dünyayı sona erdireceği yönündeki endişeler, yapay zekanın zaten yeterince güçlü veya önemli olduğuna dair bir varsayım üzerine inşa edilmiştir. Bu da, Anthropic’in önemli etik soruları olan önemli bir şirket olduğu fikrini pekiştirir. Ve bu durumun kimin yararına olduğunu düşünüyorsunuz?
Yapay Zeka Hakkında Daha Fazla Bilgi:
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.