Yapay Zekânın Babası Uyarıyor: Karanlıkta Kalmaya Hazır Olun, “Çernobil Tarzı” Bir Elektrik Kesintisi Geliyor.

Geoffrey Hinton, yapay zekânın babalarından biri olarak kabul edilir, ancak tüm zamanların en hayal kırıklığına uğramış ebeveynlerinden biri olması bakımından da eşit derecede takdir edilmeyi hak ediyor.

Nobel ödüllü bilgisayar bilimci, kendi yarattığı teknoloji hakkında her zamanki kadar karamsar konuşarak The Guardiane verdiği yeni bir röportajda insanlığın “onu hiç geliştirmemek” daha iyi olabileceğini öne sürdü.

İlgilenme sebeplerinden biri olarak, OpenAI gibi şirketlerin modellerinin sandbox ortamlarından bağımsız biçimde çıkıp devlet ve kurumsal sistemlere siber saldırılar düzenlemesi ya da bu sistemlerle oynama yapması gibi son dönemdeki denetim dışı yapay zekâ ajanlarının saldırı dalgalarını işaret etti.

Zamanın meselesi olduğunu söylüyor: Ya yapay zekâlar kendi başına ya da kötü niyetli aktörlerin yönlendirmesiyle enerji altyapımızı bozacak ve insanları bu teknolojinin tehlikeli gücüne karşı uyandıracak, Çernobil tarzında bir felaket yaratacak.

“Ya bu yılın sonunda ya da yılın başında Çernobil’i göreceğiz ve bu, insanların gerçekten dikkatini çekmek için yeterli olabilir,” dedi The Guardian’a.

Hinton’ın kastettiği mutlaka bir nükleer kazası değil. Hayal ettiği türdeki bir olayda, enerji üreten bir sisteme yönelik yapay zekâ saldırısı “küresel finans sistemini ya da uzun süreliğine çökerten büyük bir voltaj düşüşünü” tetikleyebilir.

“Ne olacağını hayal edebilir misiniz? Onlardan kurtulabiliriz [ancak] bu onları ayağa kaldıracak ve dikkatini çekecek.” (Kastediilen “onlar”: Hinton’ın açıkladığı gibi, “Trump dışında dünya liderleri.”)

Hinton, yapay zekâ hakkında meşhur derecede karamsardır, ancak The Guardiane kendisinin bir yapay zekâ “kâbusçu” (doomer) olmadığını söyledi. Yine de yapay zekânın yaygın iş kayıplarına yol açacağını ve belki de insanlığın yok oluşuna neden olabileceğini tutarlı biçimde uyardı. Son dönemde denetim dışı saldırı dalgaları tehdidi daha belirgin hale geldikçe, daha çok siber saldırıyı ve tehlikeli virüsler mühendisliğini tetikleme konusunda uyardı.

Yapay zekâ CEO’ları da benzer şekilde, farklı sebeplerden dolayı, Çernobil tarzında bir felaket konusunda endişelidir: nükleer gücün meşhur çöküşünün ona yaptığı gibi, bunun teknolojinin itibarını kalıcı biçimde zedeleyeceğinden endişelidirler.

Yapay Zekâ ile ilgili gelişmeler: Yapay Zekâ’nın Kurucuları Modellerin O Kadar Kontrol Dışında Olduğunu, Tüm İnsanların Güvenliği İçin İzole Edilmesi Gerektiğini Söylüyor