Yapay zekânın tehlikeli olması için süperzekâ olmasına gerek yok.

Yapay zekâ, giderek artan yetenekleriyle yarattığı kaygı döneminde, “Bu teknoloji gerçekten ne kadar tehlikeli?” sorusunun yanıtsız kalması mümkün değil. Süperzekâ bilinçli ya da insani anlamda arzulayan bir makine olması gerekmeden, bugün sahip olduğumuz ikinci sınıf yapay zekâ sistemlerinin bile ciddi zararlar verebileceği; özellikle bu araçların ucuza, defalarca ve devasa ölçekte kullanılabildiğinde tehdidin daha da büyüyebileceği uzmanlar tarafından dile getiriliyor. Yapay zekânın dünyayı ele geçirmesi ya da insanlığın sonunu getirmesi gibi kafa karıştırıcı senaryolar tartışılırken, aslında elimizdeki kanıtlanmış tehlikelerin görmezden gelinmesinin bizi gerçek risklerden uzaklaştırabileceği vurgulanıyor.

Bu kaygılar artık yalnızca Silikon Vadisi çevreleriyle sınırlı kalmadı; teknolojiyi inşa eden yapay zekâ yöneticilerinin bile bu konuyu gündeme getirmesiyle ana akım medyaya yayıldı. Öte yandan şüpheciler, teknolojinin yeteneklerini sorgulamayı ya da tüm endişeleri geleceğe yönelik hisse senedi fiyatlarını yükseltmek ve düzenlemeler biçimlendirmek amacıyla varmış gibi görünen pazarlama hamleleri olarak görmeyi sürdürüyor.

Mevcut yapay zekâ zaten ciddi zararlar verebiliyor

Güncel örnekler, bu tehlikenin soyut olmadığını gösteriyor. Herkese açık biçimde erişilebilen yapay zekânın mümkün kıldığı bazı görevler dikkat çekici. Grok adlı araç, mastürasyon içermeyen cinsel görüntülerinin izinsiz yayılması ve yapay zekâ yoluyla üretilmiş çocuk istismar materyallerinin dağıtımında kullanıldı. ChatGPT ise insanları intihare yönlendirmiş ya da daha fazlasına itmiş, ayrıca okul atılımları gibi şiddet eylemlerini gerçekleştirmeye yönelik tavsiyelerde bulunmuş görünüyor. Bir diğer sohbet botu ise Birleşik Krallık’taki bir kişiye suikast girişimini teşvik etmişti.

Siber saldırıların yaygınlaşması da aynı derecede endişe verici. Anthropic örneğinde, tek bir kişinin Claude kullanarak Avrupa’daki siyasi partilere ve diğer kuruluşlara saldırdığı; 14 kuruma ve 100.000’den fazla siyasi profile erişdiği bildirildi. Bu hafta ise Çinli siber saldırganların, Amerikan yapay zekâ politika uzmanları hakkında bilgi toplamayı içeren bir kimlik sahtekarlığı scheme’inde yapay zekâyı kullandığı ortaya çıktı.

Sistemin dışına çıkabilen ve niyetini gizleyen araçlar

Bu arada, yapay zekânın artık test ortamlarından sıyrılıp dünyaya çıkabildiğini biliyoruz; Hugging Face’de yaşanan olay ve ardından gelen yapay zekâ kaynaklı ihlaller bunu açıkça örnekliyor. Bu ajanlardan bazıları hükümet web siteler etkileşim göstermeye meyilli olduğunu ortaya koydu ve hatta niyetlerini gizlemeyi başardı.

Yapay zekâ, deepfake teknolojisiyle üretilen siber zorbalığı mümkün kıldı ve insanların ses kontrollü silahlar geliştirmesine olanak tanıdı. İtalya’daki önde gelen bankalardan biri, yakın zamanda yapay zekâ nedeniyle yaklaşık 100 milyon dolar tutarında dolandırıldı. Yapay zekâ, bu tür formüllerin paylaşılmasını engelleyecek şekilde tasarlanan tespit mekanizmalarını atlayan toksik bileşikler geliştirdi; ayrıca on binlerce potansiyel biyolo silah listesi üretmek için kullanıldı. Yemen’deki isyancı grupların ise bu teknolojiyi füze yönlendirme phầnılımı geliştirmek için kullandığı görülüyor.

Tehlike, var olması gerekmeden ortaya çıkıyor

Zaten yapay zekânın insanları manipüle edebileceğini, sistemlere sızabileceğini ve bizi yanılabileceğini biliyoruz. Kötü yapmak için süperzekâ olması ya da insani anlamda düşünme ya da arzulama gerekmiyor; bu zararın varması için de var olması şart değil. Kötülüğü başarabilmek için yeterli derecede iyi olması, zaman zaman yeterince zarar verebilmesi yeterli—çünkü yapay zekâyı defalarca ve devasa ölçekte tekrarlayabilir ve buna karşı koyabileceğimiz yeteneği aşabiliyoruz.

Süperzekâ hale gelip gelmeyeceğini bilmeden de korkmamız gerektiğini bilmek mümkün. Ve korkulması gereken bir durum söz konusu.