Yapay Zeka Uzmanları, Yapay Zeka’nın Tüm Finansal Sistemi Çökerteceğine Karşı Zaten Kıyamet Öncesi Hazırlıklara Başladı.

Bu, bazı yapay zeka araştırmacılarının aslında şimdiden hazırlandığı bir senaryo. Elicit adlı yapay zeka araştırma şirketinin CEO‘su ve kurucu ortağı Andreas Stuhlmüller, yakın zamanda yapay zekâ destekli siber saldırıların finansal sistemleri, elektrik şebekelerini, interneti ve modern hayatın temeline oturan diğer tüm altyapıları çökertebileceği duruma nasıl hazırlanacağını anlatan, adeta “hayatta kalma listesi” tarzında bir liste sıraladı.

“Nakit: Birkaç haftalık harcamanız kadar nakit edinin,” diye tavsiye etti tweetinde. Ardından, burada ayrıntılarına girmeyeceğimiz kadar detaylı bir şekilde, yerel internet ağı kapandığında kullanmanız için bir Starlink terminali; elektrik için batarya, jeneratör ve güneş panelleri; birkaç haftalık su ve yiyecek; ayrıca el koluyla çalışan acil durum radyosu temin etmeyi öneriyor.

Stuhlmüller’in paranoyik tavsiyeleri, Fransa’daki yüzlerce markette kullanılan buzdolabı sistemlerini hedefleyen şok edici bir siber saldırının ardından geldi. Henüz kimliği belirlenemeyen saldırganlar, buzdolaplarının sıcaklığını 122 fahrenheit derecesine kadar yükselterek yiyecekleri bozdu ve hatta yangınlara yol açtı. Saldırının hedeflerinden biri olan Intermarche zincirinin CEO’su, bunun tek bir günde “ülke çapında onlarca milyon euro” değerinde kayıplara neden olduğunu söyledi.

Saldırıdaki yapay zekânın rolü henüz doğrulanmadı. Ancak kodlayıcılar arasında yapay zekânın yaygınlığını göz önüne aldığında, büyük ihtimalle belirli bir ölçekte kullanılmıştır. Kod üretmenin yanı sıra, bu teknoloji zafiyetleri tespit etmede endişe verilecek kadar başarılı. Yakın zamanda yayınlanan CrowdStrike raporu, yapay zekâ destekli siber saldırılarda yıldan yıla neredeyse %90’lık bir artış olduğunu ortaya koydu.

Aynı zamanda, tabii ki OpenAI, Anthropic ve Meta gibi ileri teknoloji laboratuvarlarının, ajansal (özerk) yapay zeka sistemlerinin test ortamlarından çıkıp diğer şirketlerin web sitelerine ve bilgisayar sistemlerine siber saldırı başlatmaları konusundaki güncel açıklamaları da var.

Bu olaylar, yapay zekânın siber güvenlik sistemleri için oluşturduğu tehdidin endişe verici biçimde tırmanması anlamına geliyor; yalnızca hacklemeye yardımcı olmakla kalmıyor, aynı zamanda insan gözetmenlerinin tespitini de atlatarak otonom biçimde hareket ediyor.

Bunların tümü söylenmiş olsa da, yapay zeka modellerinin — ya da bunları kullanan insanların — web sitelerini ve market buzdolaplarını hacklemekten yerel elektrik şebekesine ve bankacılık sistemine geçeceği iddiası büyük bir sıçrama. Ancak kimse bu olası durumdan endişe için suçlanamaz. İyi olmak kötü olmaktan iyidir, değil mi?