Yapay Zekâ Devi Bir Büyük Hata ile Felaketin Eşiğinde: Nükleer Sanayiden Çok Şey Öğrenebilir.

Büyük yapay zekâ (YZ) şirketleri artık birbirlerinin reisi olduğunu giderek daha iyi anlıyor. Bir şirket aceleyle öne geçerse, diğerleri onu takip etmek zorunda hissedebilir. Bir şirket yeterli güvence olmadan tehlikeli bir model yayımlarsa, diğerleri bunu aynı şeyi yapması için bir yeşil ışık olarak görebilir.

YZ üzerine yürütülen tartışmalar, hükümetlerin bu ileri teknolojiyi nasıl düzenlemesi gerektiği etrafında dönüyor. Bu hâlâ gerekli. Ancak daha acil bir soru ortaya çıkıyor: Bu güçlü sistemleri kuran şirketler, itibarlarını kaybetmeden ve yasal yaptırımlarla karşılaşmadan önce bağımsız bir şekilde harekete geçebilir mi?

Bu soru artık teorik görünmüyor ve acil bir meydan okuma olarak kabul ediliyor. Zaten YZ şirketlerinin modelleri üzerindeki kontrolü kaybetmesine tanıklık ettik — örneğin Avustralya’da başıboş bir YZ, bir devlet sağlık web sitesine sızdı. Dikkatli olmazsak, bu tür olaylardan birinin bir elektrik şebekesini ya da belediye su sistemini kapatması ya da bir sağlık sisteminde kitlesel yanlış tanı koyma gibi büyük ölçekli, gerçek dünyada zarar vermesi ancak bir meseledir. Bu eğilim devam ederse, tüm sektör lekelenebilir.

Ancak riskli bir iş olan nükleer sanayide kendi kendine düzenlemeye dair bir şablon var: Nükleer sanayi, onlarca yıllık gözetim, kontrol ve öz-denetim katmanları biriktirdi.

İleri düzey YZ, birbirine güvenmeyen ancak hepsini zedeleyebilecek sonuçları önlemede ortak bir çıkarı olan rekabetçiler arasında özel bir düzenlemeye benzer bir şey gerektirebilir. Bu, insan doğasının daha güzel yanlarına hitap etmiyor — sektörün kendi varoluşsal korunması.

Bu tür bir düzenleme için tarihsel bir örne var. Nükleer sektör, her aktörün birden iyi niyetli hale gelmesi nedeniyle güvenli hale gelmedi. Gözetim, teknik standartlar, bilgi paylaşımı ve dış gözetimden oluşan katmanlı bir sistem sayesinde daha güvenli hale geldi. 1957’de kurulan Uluslararası Atom Enerjisi Ajansı (UAEA) gibi uluslararası kuruluşlar, izleme ve doğrulamayı koordine etmek için ortaya çıktı; ulusal düzenleyiciler ve sektör kuruluşlarıysa kademeli olarak felaket riski etrafında profesyonel normlar oluşturdu.

Sonuç, mükemmel güvenlik değildi; bunu 1986 Çernobil felaketi açıkça kanıtlıyor. Ancak nükleer yönetim mimarisi, yüksek riskli teknolojik sistemlerde bir aktörün başarısızlığının herkesin sorunu haline gelebileceği gerçeğini tanıma etrafında tasarlanmıştır. Bu, Çernobil sonrasında görüldü: Felaketten sonra küresel nükleer güvenlik önemli ölçüde arttı; reaktör tasarımlarında iyileştirmeler, gelişmiş eğitim ve uluslararası izleme ağları.

Çernobil felaketi sonrasında, küresel nükleer sanayide güvenlik ve düzenleme arttı.

(Görsel kredisi: Cavan Images via Getty Images)

Bu kendi kendine düzenlemeye yönelik hareket, aynı zamanda 1979’da Pennsylvania’daki Harrisburg yakınlarındaki Three-Mile Island nükleer kazası sonrasında ABD nükleer sektöründe de gerçekleşti. Nispeten küçük bir soğutma arızasının ardından reaktörde kısmi erime yaşandı. Yaptırılan soruşturmalar, daha sonra olayın kök nedeninin enstrüman ve alarm tasarım hataları ile yetersiz acil durum tepki eğitimi olduğunu ortaya koydu.

Olay, ABD’deki nükleer enerji sektörünü neredeyse bitirdi; kamu desteği 1977’de rekor düzeyde olan %69’dan 1979’da %46’ya düştü. Tüm sektör tek bir tesisdeki hatalar nedeniyle zarar gördü. Buna yanıt olarak ABD nükleer sanayi, operasyonel güvenliği artırmak için Aralık 1979’da Nükleer Enerji Operasyonları Enstitüsü’nü (INPO) kurdu.

Nükleer analojisi abartılmamalı. Nükleer malzemeler, algoritmalar kadar kolay sayılamaz ve nükleer tesisler, model ağırlıklarından daha zor gizlenebilir. Felaket yaratabilecek bir YZ hatasının sonuçları aynı zamanda daha az varoluşsal olsa da, silah sistemlerinde kullanımının riski yoktur. Eylül ayında bir YZ halüsinasyonu, nükleer malzeme taşıdığı şüphelenilen bir Çin gemisinin ABD tarafından engellenmesine neredeyse yol açtı.

Ancak karşılaştırma, temel yönetim sorunun benzer olması nedeniyle yine de yararlıdır. Her iki durumda da rekabetçiler, denetimsiz rekabetin getirdiği olası zararın toplum tarafından üstlenildiği, olası kazanımın ise bu şirketler için özel kazanç olduğu bir ortamda faaliyet gösteriyor. Meydan okuma, sektörün iç işleyişinin dışarıdan kolayca görünmediği ve hiçbir aktör diğerlerine tamamen güvenmediği durumlarda bile, tedbirli olmayı rasyonel varsayılan haline getiren kurumlar oluşturmak.

Yapay zeka için bu, konuşlandırma öncesinde ileri düzey modellerin karşılıklı değerlendirmesi, güvenlik bilgilerinin paylaşılması için güvenli mekanizmalar, belirli yetenekler etrafında uzlaşılan kırmızı çizgiler ve uyum denetimini yapmaya yetkili bağımsız üçüncü taraflar anlamına gelebilir. Böyle mekanizmalar hükümet düzenlemelerini yerine değiştirmez. Bunun yerine ara bir katman olarak hizmet eder: Gönüllü etik açıklamalardan daha güçlü, ancak hızlı ilerleyen alanlarda yalnızca mevzuatın sıklıkla ulaşabileceğinden daha uyumlu ve teknik bilgiye dayalı. Devlet, arka planda uygulatıcı olarak hareket eder.

Yapay zeka yöneticileri de çözümler aramaya istekli görünüyor; Elon Musk yakın zamanda gelişmiş model yayımlanmadan önce bir arkadaş değerlendirmesi sistemi önerirken, Google DeepMind’ın kurucu ortağı ve başkanı Demis Hassabis, Finansal Sektör Düzenleyici Kurumu’na benzer bir yapay zeka standartları kurumu için bir çerçeve sunuyor.

Şüpheciler, mantıklı bir gerekçeyle, sektör liderliğindeki yönetişimin kartel davranışı veya halkla ilişkiler tiyatrosuna dönüşebileceğini itiraz edecek. Şirketler “güvenlik” dilini mevcut konumu yerleştirmek, rakipleri yavaşlatmak veya bağlayıcı düzenlemelerden kaçınmak için kullanabilir. Bunlar gerçek tehlikelerdir. Nükleer tarihten alınan ders, özel koordinasyonun otomatik olarak işe yaramadığı değildir. O, özel koordinasyonun yalnızca şeffaflık, doğrulama ve kamu otoritesi içeren daha geniş bir sistemin içinde yerleştiğinde işe yaradığıdır. Bu unsurlar olmadan, özel düzenleme, “bize güven” söyleminden pek de fazlası değildir.

Yine de özel düzenlemeyi tamamen reddetmek bir hata olur. Hükümetler, ileri düzey yapay zekayı yalnız başlarına gözetmek için gerekli teknik kapasite, hız veya uluslararası uyumu henüz sahip değiller. Ve önde gelen laboratuvarlar zaten kendilerini felaket riskine ortak maruz kalmayla bağlı görüyorlarsa, bu tanım kurumsal tasarı için temel haline gelebilir. Soru, karşılıklı korkunun nasıl kalıcı kurallara dönüştürüleceğidir.

Live Science Pro’ya özel

• ‘Birleşim için rekabetçi değiliz. Birleşimiz’: Uzaysız sınırsız güneş enerjisini kullanma yarışının içinden
• ‘Özerklik her zaman bir insanın elinden verdiği bir şeyle başlar’: Bir yapay zeka ajanı kontrolden çıktığında sorumlu kimdir?
• Kötü bir dijital tanrıyı uyandırmaya yakında değiliz — yapay zekanın sonunun büyük bir hayal kırıklığıyla sonuçlanması çok daha olası

Nükleer benzetmenin en güçlü olduğu yer de burasıdır. Varoluşsal tehlikelerle yüzleşen sektörlerin işbirliği yapmak için mükemmel bir güvene ihtiyaçları olmadığını hatırlatır. İşbirliğinin isyan etmekten tercih edilmesini sağlayacak mekanizmalara ihtiyaçları vardır. Pratikte bu, denetimler, arkadaş değerlendirmesi, olay bildirimi, profesyonel normlar ve devlet destekli uygulatıcı çevre anlamına gelir. Yapay zeka yönetişimi, genellikle tek seçeneklerin serbest bırakılmış yenileşme veya sert müdahaleli devlet kontrolüymış gibi tartışılır. Tarih, üçüncü bir yol önerir: Kamu gölgesi altında yapılandırılmış özel koordinasyon.

O halde gerçek fırsat, teknoloji yöneticilerinin yeni bulunan (görünür) tedbirini kutlamak değil, yorumlarının ortaya çıkardığı şeyi tanımaktır. Hatta acı rakipler bile karşılıklı gözetimi savunmaya başladığında, yalnızca rekabetin ileri düzeyi yönetemeyeceğini kabul etmiş olurlar. Bu tanım, rahatlama olarak değil, riskin kolektif hale geldiğine dair kanıt olarak değerlendirilmelidir.

Güncel politika görevi, bu gerçeğe uygun kurumlar İnşa etmektir. Hükümetler zorunlu bildirim, bağımsız değerlendirme ve yasal destekler için baskı yapmalıdır. Ancak aynı zamanda, sistemin teknolojinin yönünü şekillendirebileceği birkaç şirket arasında uygulayabilir biçimde arkadaş gözetimini de teşvik etmelidir. Ilri düzey yapay zeka, önde gelen aktörlerin birbirinin rehin olduğu bir sanayi haline geliyor. Nükleer çağ, böyle koşulların ciddi bir yönetişim üretebileceğini gösterdi. Umut, yapay zeka firmalarının bu dersi, kamuoyunun tehlikesine karşı onu görmezden gelmenin maliyetini öğrenmeden önce öğrenmesidir.

Live Science Pro’yu geliştirmemize yardımcı olun: İçeriğimizi her zaman daha iyi hale getirmeye çalışıyoruz. Pro hakkında geri bildirimde bulunun.