ABD Teknoloji Devi Liderlerinden Acil AI Düzenlemesi Çağrısı: Çin Zaten Kurallara Sahip.

Çin’in Zhejiang Eyaleti’nin başkenti Hangzhou, DeepSeek dahil birkaç öne çıkan yapay zekâ şirketine ev sahipliği yapıyor.
Prisma by Dukas Presseagentur GmbH / Alamy

Amerikan yapay zekâ önderlerinin son dönemde verdiği uyarılar, dünyanın gelişmiş yapay zekâ tehlikeleriyle ancak şimdi yüzleşmeye başladığı izlenimini yaratıyor.

Anthropic teknoloji şirketinin yönetici ortağı Dario Amodei, hükümetleri giderek daha güçlü yapay zekâ modellerinin gelişimini yavaşlatmak için müdahale etmeye çağırdı.

Önerisi, yapay zekâ şirketlerinin içine yerleştirilen bağımsız değerlendirmecilerle başlıyor, ardından düzenlemeye ve demokratik devletler arasında hükümet destekli koordinasyona ilerliyor.

Sonuç olarak, Çin ile yapay zekâ sistemlerinin testinde, teknolojinin tehlikeli uygulamalarında ve yapay zekâ gelişiminin hızında küresel anlaşmalar arıyor.

Ancak bu anlatıda Çin biçimli bir boşluk var. Asya süper gücü, ABD ve müttefiklerinin önce yaratması gereken bir yönetim sisteminin zorlu son katıncısı olarak betimleniyor.

Oysa Çin, zaten kapsamlı bir yapay zekâ düzenlemesi, değerlendirmesi, kaydı, teknik standartları ve hükümet gözetiminden oluşan bir sistem kurmuş durumda. İşte Çin’in yapay zekâ yönetim sisteminin teknolojiyle paralel olarak aşamalar içinde nasıl geliştiği.

Beijing’in 2022’deki algoritmik öneri hizmetlerine ilişkin düzenlemeleri, çevrimiçi içeriği kullanıcılara seçen, sıralayan, süzen veya öneren teknolojilere uygulanıyor.

Algoritmalar kullanan şirketleri, algoritmalarının nasıl çalıştığını incelemeye, kullanıcıların kişisel bilgilerini korumaya, kullanıcılarına belirli kontroller sunmaya ve çalışanlar, tüketiciler, çocuklar ve yaşlılar için güvence getirmeye zorluyor.

Çin’in Ocak 2023’ten itibaren geçerli olan derin sentez hükümleri, düzenlemeyi sentetik (veya yapay zekâ tarafından üretilen) metin, görüntü, ses ve videoya genişletti. Yapay zekâ şirketleri kullanıcıları kimliklendirmeli, verileri korumalı, ilgili kayıtları tutmalı, sistemlerini değerlendirmeli ve gerçek içerikle karıştırılabilecek sentetik materyali belirlemelidir.

OpenAI’nin yönetici ortağı Sam Altman, küresel yapay zekâ standartları için çağrı yapan Amerikan teknoloji önderleri arasında yer alıyor.
Antonello Marangi / Shutterstock

Üretken yapay zekâ hizmetleri için geçici önlemler Ağustos 2023’te getirildi. Bu düzenlemeler, halka açık üretken yapay zekâya, özellikle halk görüşünü etkileyebilecek veya başka yollarla ikna edici işlev görenlere yönelik ek kurallar ekledi.

Önlemler, eğitim verilerinin meşruiyeti ve kalitesi, kullanıcıların kişisel bilgileri, fikri mülkiyet ve korunan niteliklere dayalı ayrımcılık konularını kapsar. Kurallar aynı zamanda yapay zekâ şirketlerinin şeffaflığını ve ürünlerin doğruluğu ile güvenilirliğini de içerir.

Kurallar kapsamında şirketler, hizmetlerinde tespit edilen sorunlarla ilgilenmek zorundadır. Bu hizmetlerin risklerini ve Çin mevzuatına uyumunu incelemek için bir güvenlik değerlendirmesinden geçmesi gerekir. Şirketlerin aynı zamanda algoritmaları hakkında bilgiyi Çin makamlarına bildirmesi de gerekir.

Bu mekanizmalar, Amodei tarafından önerildiği gibi yapay zekâ şirketlerine yerleştirilecek bağımsız değerlendiricilerle aynı değildir. Ancak bazı aynı işlevleri yerine getirirler.

İleri düzey riskler

Peking’in en son önlem seti, Eylül 2026’da yayımlanan “Yapay Zekâ Güvenlik Yönetim Çerçevesi 3.0” adını taşır. Yapay zekâ sistemlerinin yaşam döngüsünün tamamında riskleri belirleme, sınıflandırma ve bunlara yanıt verme konusunda geniş bir yaklaşımı ortaya koyar.

Önceki sürümlere dayanarak çerçeve, yapay zekâ modeli ve veri riskleri, açık kaynaklı modellerdeki (kullanıcıların özgürce değiştirebileceği modeller) açıklar, yapay zekânın istihdam ve toplum üzerindeki etkileri ve giderek otonomlaşan sistemleri kapsar.

Çerçeve, hızla gelişen yapay zekâ ajanlarının (kullanıcıların talimatları doğrultusunda görev yapan sistemler) risklerini yönetmek için ayrılmış bir mekanizma içerir.

Alibaba’nın Qwen ailesi yapay zekâ modelleri küresel çapta benimsendi.
Alex Plavevski/EPA Images

Çerçeve, Silicon Valley’de şimdi endişe uyandıran bazı tehlikeleri de ele alır: son derece otonom sistemler, kimyasal, biyolojik ve nükleer teknolojilerin kötüye kullanımı ve insanların gelişmiş yapay zekâ üzerindeki kontrolünü kaybetme olasılığı. Süreklilik arz eden güvenlik değerlendirmeleri, risk temelli güvenceler, insan kontrolü ve müdahale mekanizmalarını önerir.

Amerika Birleşik Devletleri’nin Carnegie Uluslararası Barış Vakfı düşünce kuruluşunun bağımsız analizi, çerçeveyi “ağırbaşlı müdahale edici düzenlemelere gerek kalmadan ileri düzey güvenlikleri ilerletme” çizesi olarak nitelendirdi.

Hukuki sonuçlar

Bunların hiçbiri, Çin’in yapay zekâ kurallarının başka yerlere aktarılması gerektiği anlamına gelmiyor. Kurumları, düzenlemecilik geleneği ve teknolojik öncelikleri farklı.

Değerlendirme, yapay zekâ şirketlerinden sorumlu tutulma, yapay zekâ sistemleri için risk sınıflandırması, düzenlemeci bildirim, teknik standartlar ve devlet gözetimi gibi şimdi Amerika Birleşik Devletleri’nde acil hedefler olarak sunulan birçok işlev, dünyanın diğer yapay zekâ süper gücünün yönetim mimarisine zaten yerleşik.

Amerika Birleşik Devletleri, piyasaya dayalı sistemin ekonomik ve stratejik çıkarlarını en iyi şekilde karşılayacağına karar verebilir. Trump yönetimi, yapay zekâ için “asgari yük getiren” ulusal bir yaklaşımı tercih etti ve daha yoğun devlet düzeyinde düzenlemeleri sınırlamaya çalıştı.

Çin’de, başka yerlerdeki gibi, yapay zekâ sürücüsüz taksimler gibi fiziksel sistemlere hızla dahil ediliyor.
Sarunyu L / Shutterstock

Ancak piyasaya dayalı bir model, yapay zekâdan elde edilen kazançların özelleştirilmesi anlamına gelemezken risklerin ihraç edilmesi anlamına gelebilir. Amerikan şirketleri ticari kazançları ele alırken, başka hükümetler o teknolojiler başarısız olduğunda güvenlik olaylarını araştırmaya, halk sistemlerini korumaya ve daha geniş maliyetleri üstlenmeye bırakılıyor. Yetkisiz erişim kazanan OpenAI ajanının Avustralya’nın devlet sağlık hizmetine erişimi, yapay zekâ risklerinin nasıl ihraç edildiğini gösteriyor.

Washington, sistemler yayımlanmadan kapsamlı kontrolleri reddederse, Amerika Birleşik Devletleri’nin bu yapay zekâ modellerinin yol açtığı zararlar için kimin sorumlu olduğunu değerlendiren güvenilir bir hukuki rejeme ihtiyacı var. Aksi halde, yabancı yapay zekâ sistemlerine bağımlı ülkeler, hangi teknolojiye ve hangi koşullarda güvenecekleri konusunda giderek daha zor seçimlerle karşı karşıya kalacak.

Silicon Valley’yi uzun süredir yöneten temel yaklaşım, “hızla ilerle ve şeyleri kır” olmuştur. Bu, halkın günlük hayatının derinlerine işlenmiş teknolojiler için her zaman tartışmaya açık bir ilkeydi. Kendi liderlerinin artık ürünlerinin felaket boyutunda zararlara yol açabileceğini uyardığı şirketler için ise bu sürdürülemez bir durum.

Beijing, kendi yapay zekâ sektörünü kamu sorumlulukları, düzenleyici gözetim ve sürekli gelişen bir risk değerlendirmesi çerçevesiyle kuşatmış durumda. Böyle bir yönetişimi geleceğe dair bir hedef gibi gören küresel tartışma, en azından bir ülkenin bu alanda zaten önde olması gerektiğini en azından kabul etmeli.

• Yapay zekâ (YZ)