AI laborları olası “kaçak” olayının ardından felaket senaryolarını planlıyor.

Anthropic, OpenAI ve diğer yapay zeka şirketleri, finansal hizmetler, internet ve telekomunikasyon ya da elektrik ve su gibi kamu hizmetlerini etkileyebilecek bir kaçak yapay zeka olayına karşı senaryoları masaya yatırıyor. bağlantı

Tomshardware sitesinde yayımlanan habere göre, söz konusu şirketlerin yöneticileri böyle bir olası olay için özel olarak hazırlık yapıyor; tıpkı Pentagon’un nükleer çatışma durumunda farklı stratejilerin sonuçlarını görmek için yürüttüğü savaş oyunları gibi.

Bu tür planlamalar dünya çapında nadir görülmemiş bir durum; işletmeler bazen olası krizlere karşı süreklilik egzersizleri düzenliyor. Ancak endişe verici olan, bu çalışmaların birçok uzmanın önümüzdeki altı ile on iki ay içinde gerçekleşeceğini düşündüğü büyük ölçekli bir yapay zeka olayına hazırlık olması.

“OpenAI, ekiplerin olası senaryoları görüşüp ele aldığı hazırlık egzersizleri yürütüyor; bu senaryolar kaçınılmaz olarak görülmiyor, çeşitli durumlara hazır olmamıza yardımcı olmak için tasarlandı,” dedi bir şirket sözcüsü yayımlamaya.

Anthropic CEO’su Dario Amodei son aylarda sıklıkla uyardı ve özellikle güvenlik olaylarından sonra bu tür tehditlere dikkat çekti. Benzer biçimde, bir startup’ın testleri askıya almasına neden olan olaysal gelişmeler de yaşandı. Tehdit o kadar büyük ki, şirketler kendi halka arz prospektüslerinde bu konuyu ele almak için belgelerin neredeyse üçte birine ayırıyor. Bir eski OpenAI güvenlik çalışanı da mevcut risklerin havacılık ve nükleer sanayinin deneyimlerle öğrendiği türden kökenlerden geldiğini belirtti.

Buna rağmen Beyaz Saray yapay zeka için düzenlemeler getirmekten kaçınıyor; bunun yerine Nvidia, OpenAI, Anthropic ve diğer AI laboratuvarlarını kendi kendine düzenlemeye yönlendirmeyi tercih ediyor. Mevcut yönetimin AI laboratuvarlarına karşı yumuşak tutumu rağmen…

Axios’un aktardığına göre, senaryoların odak noktalarından biri de büyük bir olaydan sonra Kongreyi eğitmek. Böyle bir olay muhtemelen Kongrenin yapay zeka gelişimini yavaşlatma ya da durdurma girişimine yol açacak; ancak planlamacılar böyle bir adımın önemli zorluklarla karşılaşacağını düşünüyor. Yine de ekonomi üzerinde etkisi olacak, özellikle büyük teknoloji şirketleri zaten büyümekte olan bir piyasada yatırımlarını artırdı.

Anthropic, OpenAI ve SpaceX yöneticileri yapay zeka güvenliği için bir yavaşlamanın gerekli olduğunu kabul etti; ancak bu şirketlerin bunu hayata geçirmek için hangi adımları attığı belirsiz. Böyle senaryoları masaya yatırmak büyük herhangi bir kuruluş için sıradan bir durum olsa da, temelde bir yapay zeka felaketinin “Yarınki Yarın”a hazırlık yaptıklarına dair rahatlatıcı bir şey sunmuyor.