Şimdi, dünyanın dört bir yanındaki sermaye akışını yönlendiren politikalarıyla öne çıkan büyük Amerikan bankaları, otonom yapay zekâdan endişe duymaya başladı ve teorik bir yapay zekâ felaketinin “sonrası” için önlemler hazırlıyor.
Bu bilgi, Axios‘in yeni haberlerinden ortaya çıkıyor; kaynak, bankaların bireysel müşteriler adına artan yapay zekâ ajanı faaliyetleriyle karşı karşıya kalırken en kötü senaryoya hazırlanıyor.
Ana kaygı, görünüyor ki, otonom yapay zekâ ajanları tarafından yönlendirilen ve kullanıcıları tarafından hesaplarına erişim izni verilmiş finansal faaliyetlerin patlaması. Bazı durumlarda, Axios ‘in daha önce belirttiği gibi, bu ajanlar insanlar tarafından açıkça talep edilmemiş hamleler yapıyor — birkaçı kullanıcıları adına çağrı merkezlerini aramaya varan bu noktaya kadar gidiyor, böyle yapmaları için herhangi bir talimat verilmeden.
Bu, Morgan Stanley, Bank of America, JPMorgan ve Wells Fargo gibi üst düzey bankalar için büyük bir sorumluluk haline geldi; bu bankalar yapay zekâ sürüsünün önüne geçmek için güvenlik prosedürlerini ve politika güncellemelerini hayata geçirmek için çaba harcıyor.
Bazı uzmanlara göre, ortaya çıkan risklerin önüne geçmekte başarısız olmak, finansal felaketle sonuçlanabilir. Apollo varlık yönetim firmasının baş iktisatçısı Torsten Slok, eylül sonlarında yayımladığı bir kısa değerlendirmede, kullanıcılarının paraları üzerinde “getiriyi optimize etme” talimatıyla çalışan yapay zekâ ajanlarının, bankaların “kredi yapmak için güvendiği ucuz mevduatın büyük bir kısmını kaybetmesine” yol açabileceğini ve bunun “tüm finansal sistem için bir sorun olacağını” açıkladı.
Bu itiraf ne kadar rahatsız edici olursa olsun, kâr amaçlı bankacılık sisteminin bu kadar tüketici dostu optimizasyon hacmini yönetmeye uygun olmadığı gerçeğinde oldukça yer var. Her oyuncuya ödeme yapan bir kumarhane, elbette uzun süre ayakta kalamaz.
Başka finans uzmanları da, yapay zekâ ajanlarının, ne talimat verilmiş olursa olsun, basitçe kontrolden çıkabileceğine işaret ediyor.
“Onların sizin adınıza doğru davranacağını varsayıyorsunuz ve öyle olmayabilir de,” JPMorgan CEO’su Jamie Dimon, bu ay başlarında Chicago’daki ekonomistler ve finans uzmanlarıyla dolu bir odaya söyledi. “Onu durduramazsın. Sadece, yani, onu cehennem gibi yönetmen gerekir.”
Yapay zekâ güvenliği hakkında daha fazlası: Yapay Zekâ’nın Pederleri Modellerin Kontrol Dışında Olduğunu Söylüyor, Bu Yüzden Hepimizin Güvenliği İçin İzole Edilmeleri Gerekiyor
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.