En azından Soares, son dönemde yayınlanan Atlantic podcasti “The Most Interesting Thing in AI” bölümünde bunu söyledi. Çekim sırasında, yapay zekâ araştırmacısı ve Machine Intelligence Research Institute’un (MIRI) başkanlığı yapan Soares, yaklaşan yapay zekâ felaketine o kadar emin ki emeklilik hesabına katkıda tiênmeyi bıraktığını bile belirtti.
“Şu an için emeklilik için tasarruf yapmıyorum,” Soares röportajda açıkladı. “Google‘da çalışırken bir 401(k)’m vardı ama on yıldır katkıda bulunmuyorum.”
Yapay zekâ ustayı, açıkça önlemeye çalıştığı bir gelecek için oldukça iddialı bir tahmin olan, on yıl içinde yapay zekâya bağlı yok oluş olasılığını yüzde 50’nin üzerinde değerlendiren görünüyor.
“Bu olasılığı durdurmak için yapabildiğimin hepsini yapıyorum,” dedi. “Bunun kaçınılmaz olduğunu düşünüyorum.”
Soares, yapay zekâ araştırmaları dünyasında üretilmiş bir felaketçi olarak biliniyor — bu da bir döngüde oynamaya başlayan bir hile. MIRI’de, Elizier Yudkowsky’nin sağ kolu olarak çalışıyor ve ikisinin de yüksek profilli medya görünümleri, kitap anlaşmaları ve politikanlara doğrudan erişimini sağlayan alarmist hikayeleri öne çıkarıyor.
Ancak eleştirenlerin belirttiği gibi, hem Soares hem de Yudkowsky bir yapay zekâ felaketini yıllarca düşünseler de, böyle bir geleceğin mümkün olduğu konusunda bile bir görüş birliği yok — olasılığından söz etmek ayrı.
Yapay zekâ için kötümser olmak için pek çok neden var. Teknoloji zaten ilkokul öğrencilerini bombalamak için, yaşlıları aldatmak için ve düzinelerce savunmasız kullanıcıyı intihara sürüklemek için kullanıldı. Bunların hiçbirini yapmak için yapay zekânın süper zekâ olması gerekmiyor — ve tüm dikkati gelecekte yol açabileceği zararlara odaklarsak, burada ve şimdi yol açtığı zararları görmezden gelmek kolaylaşır.
Emekliliğiniz için paranızı biriktirmeye gelince? Aslında, bazı yapay zekâ felaketçilerinin dediği gibi — kendi tasarrufunuza katkıda bulunmak, yapmayacağınız için pişman olma riskini almak yerine güvenli oynamak daha iyi olabilir. Şöyle düşünün: yapay zekâ hepimizi öldürürse, zaten pek de önemli olmayacak.
Yapay zekâ güvenliği hakkında daha fazlası: Yapay zekânın öncü isimleri modellerin o kadar denetim dışı olduğunu, tüm insanların güvenliği için bunların hava açısından izole edilmesi gerektiğini söylüyor
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.