Dario Amodei’nin uyarısı: Yapay zeka denetimini şirketler kendisi kurmak zorunda.

Darboğazlarda ses yükseldikçe, Anthropic‘in CEO‘su Dario Amodei de katıldı yapay zeka şirketlerine ürün geliştirme hızını bilinçli olarak yavaşlatma çağrısında bulunan Silicon Valley‘deki uyarıcıların arasına. Geniş tartışma gören bir mektupta, Amodei, otonom ajanların oluşturduğu sürünün internete hakim olup yüz milyarlarca dolarlık zarara yol açacağı bir kabus senaryosunu öngördü; bu durumun önümüzdeki altı ile on iki ay içinde gerçekleşebileceğini düşünüyor.

Ancak yapay zekanın yol açabileceği zarar için bir yıl beklemek zorunda değiliz. Çoğu yakın vadeli zarar, başlı başına ayakta kalmaya çalışan ajanlardan değil; sıradan tedarikçilerden satın alınan ve insanlar hakkında sıradan kararlar veren sıradan sistemlerden gelecek. Örneğin bankacılık sektöründe yapay zeka zaten kimin kredi alacağı ve hangi faizle alacağı, hangi talebin işaretleneceği ve hangi hesabın kapatılacağına yardımcı oluyor. Deloitte’ye göre iki katına bankacılık çalışanları yapay zekayı haftalık olarak kullanırken, sektördeki kamuya açık yapay zeka olaylarının ve tehlikelerin sayısı 2025’te 2022’ye kıyasla sekiz kez daha yüksekti.

Bu varlığımızı tehdit eden bir problem gibi hissettirmeyebilir; ancak insanların finansları ve refahı için somut sonuçları var—ve aynı sorun sağlık, ulaşım ve diğer kritik sektörlerde de mevcut.

Laboratuvarlar inşa ettikleri şeyi zamanlayabilirler ama geride kalanların devreye soktukları şeyi zamanlayamazlar. Düzenleyiciler de sizin işletmenizi, müşterilerinizi veya pay sahiplerinizin çıkarlarını korumak için yeterince hızlı hareket etmiyor. Her işletme bir makinenin neye ve nereye karar vermesine izin vereceğini kendisi belirlemelidir.

Sürekli artan yapay zeka kullanımı ile geride kalan düzenlemenin olası sonuçları açık. Dahili altyapıya bağlanan ajan tabanlı bir sistem, siber saldırlara karşı kapıyı açabilir. Yapay zek eğitim almamış bir çalışan, yanlış bilgi veya asılsız bilgileri dolaylı olarak yaymaya devam edebilir. Önyargılı tarihsel verilere dayanan bir kredilendirme algoritması, nitelikli borçluları hızla reddedebilir.

Bu tür gerçek dünya etkileri, sadece intranete yapıştırılan ve daha sonra hiç hatırlanmayan bir yapay zeka kullanım kılavuzundan fazlasını gerektiriyor. Geçen yıl boyunca Değerler için Bankacılık Küresel İttifakı üzerinden 14 banka ile bu düzenleyici boşlukta yapay zeka yönetişimini yönlendirmek amacıyla kapsamlı bir çerçeve inşa etmek ve test etmek üzere çalıştım. İhtiyaç bankacılıkta acil olsa da, bu çerçeve sağlık, sigorta, perakende ve telekomunikasyon gibi yapay zekalı kararların insan hayatlarıyla iç içe geçtiği diğer kritik sektörlerde de aynı şekilde geçerli.

iş dünyası liderleri, yapay zekanın başka teknolojilerin aksine bir yönlendirmeye ihtiyaç duyduğunu kabul ederek başlamalıdır. Yapay zeka uygular değil, karar verir. Muhakeme eder ama bu muhakeme siyah kutudur. Bu yüzden yapay zeka yönetişimi, yönetim kurulumuzun olası hataların ve bunların ne kadar olası olduğunun listelerini gözden geçirdiği başka bir risk kaydı olmamalıdır. Yapay zeka yönetişimi, iş dünyası liderlerinin bir işletmenin yapamadığı iyiliğin ve modelin onları göremediği için ulaşılamayan müşterilerin sorumluluğuyla yüzleşmesini gerektiriyor.