İngiltere Kralı Charles, Yapay Zeka Zirvesi’nde “Hâlâ Erken Değil” Uyarısında Bulundu.

İngiltere Kralı Charles, Perşembe günü Dumfries House’ta düzenlediği kapalı toplantıda yapay zeka sektörünün önde gelen isimleri ile Birleşik Krallık hükümetinden yetkilileri bir araya getirdi. Toplantıya Nvidia CEO‘su Jensen Huang, OpenAI ve Anthropic’den temsilciler, ülkenin yeni yapay zeka bakanı Kanishka Narayan, Birleşik Krallık’ın yabancı istihbarat servisinin başkanı ile Papaya yapay zeka konusunda danışmanlık yapan Paolo Benanti katıldı. Kral Charles, teknolojinin hızla gelişmesinin hem büyüleyici hem de derinden endişe verici olduğunu belirterek, bu alanı “hâlâ erken değilken” kontrol altına alma çağrısında bulundu.

Konuşma sırasında kralın yapay zekanın yaratabileceği risklere dikkat çekmesi dikkat çekti. Anayasal nedenlerle kraliyet ailesinin genellikle siyasi konulara fazla derinlemesine girmekten kaçındığı biliniyor; oysa yapay zeka şu anda dünyanın en hassas konularından biri. Charles, odadaki liderlere teknolojiyi insanlığın hizmetine yönlendirmek ve “kontrolü kaybetmemek” için bir yol bulunması gerektiğini vurguladı.

“İnsanlığı Kurtaracak ya Da İyice Yok Edecek”

Kral Charles, yapay zekanın halihazırda yaşamı iyileştirme ve kurtarma konusunda büyük kapasite gösterdiğini söyledi. Tıp ve bilimi buna örnek veren kral, “Ancak bu teknolojileri yaratanlar artık yapay zekanın daha karanlık kapasitelere—belki de insan hayatını alma potansiyeline—sahip olabileceğine dair giderek artan uyarılarda bulunuyor” dedi. Bu sözler, Anthropic’den bir araştırmacının birkaç hafta önce istifa edip çevrimiçi olarak şirketlerin “insanlardan çok daha zeki makineler kurmaya yarıştığını” ve insanlığın “buna hayatta kalamayabileceğini” yazmasının ardından geldi.

Kral, teknolojinin yanlış ellere düşmesi halinde ortaya çıkabilecek “varoluşsal tehlikelerin” uygun şekilde değerlendirilmesi gerektiğini ekledi. Teknolojinin “olası yıkım biçimlerinde” kullanılması durumunda ne olacağına dair yeterli kontrol mekanizmalarının kurulmasının şart olduğunu savunan Charles, “Kesinlikle, her şey çoktan geç olmadan önce yeterli kontrol araçlarına ihtiyacımız var” diye konuştu.

“Zamanlı Olmayan Şeyi Kaybetmemeliyiz”

Kral Charles konuşmasını tamamlarken, liderlere yapay zekanın iyiliğini kullanmak için uluslararası işbirliği ve uzlaşı inşa etmeleri çağrısında bulundu. Bu uyarı, Anthropic’nin Fable ve Mythos modellerine erişimi yalnızca ABD müşterileriyle sınırlamasının ardından geldi; bu hamle Avrupa teknoloji sektöründe şok etkisi yaratarak pek çok kişiyi “yapay zeka egemenliği” kavramı üzerine düşünmeye sevk etti.

Konuşmasının sonunda kral, görevin yalnızca teknolojinici ilerletmek değil, aynı zamanda onun insanlığın, toplumun ve doğal dünyanın hizmetinde sağlam şekilde korunması olduğunu belirtti. “Yeni olanı benimserken, zamanlı olmayan şeyi kaybetmemeliyiz” diyen Charles’ın yaklaşık 20 dakika süren katılımının ardından misafirlerin bu konuları kendi aralarında tartışmasına izin verdiği bildirildi.

“Şirketten bu görüşmeye katılmaktan onur duyuyoruz ve yapay zekanın kamu yararına hizmetindeki rolünü tartışmak için sanayi liderlerini ve toplumun her kesiminden sesleri bir araya getirdiği için Kral’a müteşekkiriz.”

Tino Cuéllar, Anthropic Küresel İşlerden Sorumlu Yönetici

Sektör İçinde Çatışan Çıkarlar

Bu toplantıdan önce de Kral Charles yapay zeka konusundaki zorlukları ve fırsatları defalarca dile getirmişti; 2023 ve 2024 yıllarında benzer açıklamalarda bulunmuştu. Ancak bu zirve, yapay zekanın her sektörde, her konuda ve her tür sohbetin içinde hâkim kılması nedeniyle özellikle güncel bir önem taşıyor.

Bu ay OpenAI’den Sam Altman, Elon Musk ve Anthropic’den Dario Amodei yapay zeka gelişiminin yavaşlatılmasını istemişti; ancak Nvidia’nın Huang’ı ve Başkan Donald Trump bu çağrıyı hızla reddetmişti. “Yapay zekada Çin’in önünde yürüyoruz” diyen başkan, “Dünyanın en gelişmiş ülkesiyiz ve dürüstçe bunu sürdürmek istiyorum çünkü kim yapay zekayı kazanırsa onu kazanır” şeklinde konuşmuştu.

Bu durum konunun ne kadar karmaşıklaştığını gösteriyor; büyük teknoloji şirketlerinin, politikanın ve toplumun çıkarları burada çarpışıyor. Geçtiğimiz yıl boyunca OpenAI ve Anthropic devasa halka arz (IPO) planlarını müjdelerken, OpenAI yakın zamanda yapay zeka güvenliğine dair kaygıların sürmesi nedeniyle bu yıldaki halka arz planlarının ertelendiğini açıkladı.