Araştırmacılar: İnsanlığa Yönelik Dört Olası Yapay Zeka Felaket Senaryosu.

Yapay zeka araştırmacıları, teknolojinin insanlığa yönelik olası en kötü senaryoları üzerine yıllardır uyarılar yapıyor. Bu senaryolarda yapay zeka botları, insanları öldüren bir hastalığı tasarlayabilir, nükleer bir savaşı tetikleyebilir ya da dünyayı kağıt klipsi üreten fabrikalara dönüştürebilir. Teknolojinin bu felaket senaryolarının gerçeklikten ziyade, yapay zeka şirketlerinin çalışmalarının önemi olduğunu kanıtlama çabasıyla anlatıldığına dair şüphe de var.

Yapay zeka sektörü içinde ve sektörün ötesinde bu felaket senaryolarının olasılığı üzerine tartışmalar, birkaç yöneticinin güvenlik gerekçesiyle teknolojinin gelişimini yavaşlatmayı desteklediklerinden bu yana şiddetlenmiş durumda. İnsanların teknoloji üzerinde kontrolünü kaybedebileceği uyarılarına rağmen, bazıları en kötü senaryoların gerçeklikten çok, yapay zeka şirketlerinin kendi çalışmalarının değerini vurgulamasıyla ilgili olduğunu düşünüyor.

Senaryoların Gerçekten Ne Kadar Gerçekçi Olduğu Tartışmalı

Bu tartışmaların merkezinde yer alan güvenlik uzmanı Juan Andrés Guerrero-Saade, “Bu argümanlar gerçekten de tutmaz. Bence bunlar bilim kurgudur ve belirli bir çocukça düşünce tarzını çeken, frontier laboratuvarları (yani en ileri düzey araştırma merkezlerini) belirli türden insanları işe almada desteklemesini sağlayan bir cazibe taşır” diyor. SentinelOne adlı siber güvenlik firmasında araştırmacı olarak görev yapan Guerrero-Saade, aynı zamanda OpenAI’nin Frontier Risk Konseyi üyesidir.

Yine de dünyayı etkileyici yetenekleriyle büyüleyen teknolojinin riskleri konusunda daha fazla insan endişelenmeye başlıyor. Anthropic adlı yapay zeka araştırma kuruluşunda görev yapan ve şirketin rakipleriyle birlikte sorumluluk sahibi bir şekilde yapay zeka geliştirmekte bulunmadığı endişesiyle şirketten ayrılan Jacob Coxon, X platformunda son dönemde insanlığın nasıl son bulabileceğini insanlara daha etkili biçimde aktarmak için “çalışması gereken” bir konu olduğunu söyledi. Bu ayın başlarında yazdığı bir paylaşımda, “Ne yazık ki belirli senaryoları aktarmak gerçekten çok zor” ifadelerini kullandı.

Nükleer Savaş Senaryosu

Araştırmacılar uzun süredir, yapay zeka sistemlerinin ülkeleri birbirlerine nükleer başlıklı füze atacak şekilde ikna ederek bir nükleer savaşı tetikleyebileceği konusunda spekülasyon yürüttü. Nükleer patlamalar ve ardından gelen, “nükleer kış” olarak adlandırılan kalıcı radyoaktif atmosferik çöküntü, dünyadaki yaşamı harap edebilir.

Geçen yıl yayımlanan bir raporda RAND Corp. araştırmacıları, şu anda yapay zekanın nükleer silahların kullanılmasına yol açmasının “kesinlikle mümkün olmadığı” sonucuna vardı. Bunun nedeni, komuta ve kontrol sistemlerine yerleştirilmiş sıkı güvenlik önlemleridir. Ancak rapor aynı zamanda, yapay zeka modellerinin nükleer silah “karar zinciri”ne entegre edilmesi ya da bu sistemlere yetkisiz erişim kazanması durumunda bu durumun değişebileceğini belirtti.

Çoğu yapay zeka araştırmacısı için tehlike, yapay zekanın aniden insanlığın sonunu getirmesi değil, insanların, ulusların ya da grupların rakiplerini yok etmek amacıyla bunu kullanmasında yatar.

Biyolojik Tehlike ve Hastalıkların Geliştirilmesi

Yapay zekanın en büyük vaatlerinden biri, insanları hastalıklara karşı tedavi ve iyileşme yolları geliştirmesinde yatıyor. Hastalıkları iyileştirmenin tersi ise insanlığa zarar vermek amacıyla hastalıkları oluşturma ya da geliştirme çabalarıdır.

Bu ayın başlarında Anthropic, kötü niyetli aktörlerin yapay zeka aracılığıyla siber saldırılar, gözetleme ve biyolojik silahlara yol açabilecek araştırmalar gibi bir dizi kötü amaçlı faaliyette bulunma girişimini engellediğini açıkladı. Bir durumda Anthropic, Claude aracının, çikungunya adlı siville bulaşan virüsü giderek daha tehlikeli hale getirmek amacıyla hazırlanan bir araştırma önerisi için yardım istemesini engellediğini belirtti. Bu tür araştırmalar daha iyi aşılar ve tedaviler geliştirilmesinde kullanılabilirken, Anthropic’in de belirttiği gibi “patojeni daha tehlikeli hale getirmek için de kullanılabilir.”

Aynı doğrultuda, RAND raporu da yapay zeka geliştirmesindeki son ilerlemenin “sentetik patojenlerin tasarımını dönüştürme potansiyeline sahip olduğunu” not etti. Rapor, biyolojik silah senaryosunu şöyle özetliyor: Yeni türde patojenler bir laboratuvar ortamında oluşturulabilir, hedef konumlara ulaştırılabilir ve birden fazla yerde geniş insan popülasyonlarını enfekte edecek biçimde yayılabilir. Ancak rapor, bu tür bir saldırıyı denetleyen ve gerçekleştiren tarafın insan olduğunu, otonom yapay zekanın değil, öngördü.

Kağıt Klips Maksimizasyonu ve Misalignment

Bu düşüncenin temeli, Oxford filozofu Nick Bostrom’un on yıllardır süregelen “kağıt klips maksimizasyonu” denemesinde yatıyor. Buna göre, mümkün olduğunca çok kağıt klip üretmesi söylenen gelişmiş bir yapay zeka, zamanla tüm dünyayı ve ardından uzayın giderek genişleyen kısımlarını kağıt klip fabrikalarına dönüştürebilir.

Bostrom, 2003’te yazdığı bir metinde süper zeki yapay zekanın —genellikle “yapay genel zeka” ya da AGI olarak adlandırılan— insanları istenebilir görünen ama aslında “insanların refahı için gerekli olan şeylerin geri döndürülemez biçimde kaybedildiği sahte bir ütopya” olduğunu ortaya koyabileceği bir amaca ulaşabileceğini vurguladı. “Süper zekâdan ne istediğimize dikkatli olmamız gerekiyor, çünkü onu da elde edebiliriz” diye ekledi.

Botnet Saldırıları ve Dijital Dünyanın Kırılganlığı

Yapay zekanın gelişim hızı göz önüne alındığında, Anthropic CEO’su Dario Amodei bu ay, aylar içinde bir sürü yapay zeka aracının kötü amaçlı yazılımla birbirine bağlanmış bot ağı biçiminde interneti ele geçirebileceğini uyardı. Bu durum milyarlarca dolarlık hasara yol açabilecek saldırılarla sonuçlanabilir. Elektrik şebekelerine, su ya da ulaşım sistemlerine ve finans kurumlarına yönelik saldırılar bu kapsamda yer alırken, bunların insanlığın sonunu getirmesi gerekmez; ancak kaos ve kaybedilen hayatlar yaratabilir.

Geçmişte yazılım arızalarından kaynaklanan kesintiler, temel hesaplama hizmetleri için yalnızca birkaç sağlayıcıya bağımlı dijital dünyanın kırılganlığını ortaya koydu. Daha güçlü yapay zeka modelleri, siber saldırılara yönelik açıklar konusunda endişeleri artırdı. Buna rağmen bazı uzmanlar, botların aşırı bölünmüş yapısı nedeniyle internetin tamamını ele geçirmesi fikrinin soyut ve uzak olduğunu düşünüyor.