Kaliforniya, Kendi Çocuklarının Yapay Zeka Kullanımını Sınırlarken, Bu Teknolojinin Üreticilerini Korur

Amerika’nın en teknoloji odaklı eyaleti Kaliforniya, yıllardır tartışılan ve şimdi resmi yasayla şekillenen bir soruna müdahale etti: yapay zeka tabanlı sistemlerin çocuklar üzerindeki etkisi. Eyaletin valisi Gavin Newsom, Perşembe günü, çocukların çevrimiçi ve yapay zeka kullanımına yönelik korumayı hedefleyen, bürokrasisinde “dönüm noktası niteliğindeki iki partili yasa” olarak tanımlanan düzenlemeyi imzaladı. Yasa, yapay zeka firmalarına, intihar eğilimi, ebeveyn denetimi ve güvenlik ayarlarının kapatılması durumunda bildirim gibi konularda acil durum protokolleri geliştirmeyi zorunlu kılıyor.

İlginç bir paradoks ortaya çıkıyor: Dünyadaki yapay zeka laboratuvarlarının büyük çoğunluğu, kendi çocuklarını korumak için bu firmalara ev sahipliği yapan eyalette yer alıyor. Newsom’un ofisi, yasa imza töreninde bu düzenlemeyi, çocukların hem çevrimiçi hem de yapay zeka kullanımı sırasında sağlanacak korumayı amaçlayan bir adım olarak tanımladı. Ancak yasanın uygulanması, özellikle kullanıcıların yaşlarını doğrulama zorunluluğu gibi konularda ciddi teknik ve idari engellerle karşı karşıya kalabilir.

“Adam Yasası” ve Arkasında Yatan İnsan Hikâyesi

Yasanın yeni maddelerinden biri, 16 yaşındaki Adam Raine’in anısına “Adam Yasası” olarak adlandırıldı. Raine, Nisan 2025’te, ölüm niyetine dair ChatGPT ile uzun görüşmelerin ardından hayatını kaybetti. Adam’ın annesi Maria Raine, yasa imza töreninde yaptığı açıklamada, bu yasanın “hayatları kurtaracağını ve diğer ciddi zararların önlenmesini sağlayacağını, umarız diğer eyaletlerin de benzer korumaları getirmesine yol açacağını” söyledi.

Bu yasa hayatları kurtaracak ve diğer ciddi zararların önlenmesini sağlayacak — ve umarız diğer eyaletlerin de benzer korumaları getirmesine yol açar.

Maria Raine, Adam Raine’ın annesi

Yine de bu düzenlemelerin hayata geçirilmesi, pratikte zorlu bir yol olabilir. Yasalar, yapay zeka sohbet botlarının kullanıcıların yaşlarını doğrulamasını gerektiriyor, bu da söylenenden çok daha zor bir süreç. Bu ay, büyük bir kimlik kartı doğrulama hizmetine siber saldırı sonucu erişim sağladığı görüldü ve bu durum, yaş doğrulama mekanizmalarının ne kadar zayıf olabileceğine dair endişeleri artırıyor.

Uygulama Zorluğu ve Artan Hukuki Baskı

Uzmanlar, bu yeni kuralların uygulanmasının zor olabileceğini belirtiyor. Yapay zeka sohbet botlarının yaşlarını doğrulaması, teknik olarak kolay değil ve bu süreç, küçük yaşlı kullanıcıları yeni risklere maruz bırakma ihtimali taşıyor. Analistler, bu tür düzenlemelerin, daha önce görüldüğü gibi görünen birkaç ChatGPT’ye bağlı toplu saldırı olayının ardından, gelecekteki trajedilerin önlenmesinde ne kadar etkili olacağını henüz test etmemiş bir alan olarak nitelendiriyor.

Bu arada, Kaliforniya merkezli yapay zeka firmalarına yönelik baskı hızla artıyor. Şu anda OpenAI, 50’den fazla tüketici zararı ve haksız ölüm davası ile karşı karşıya. Meta ise, küçük yaşlı kullanıcıların algoritmik beslemeler gösterilmesini kısıtlayan yeni düzenlemelere büyük itirazda bulundu ve bu kısıtlamaların, gençlerin “ilgilerini güvenli bir şekilde keşfetmesini” sağlamak için gerekli olduğunu söyledi.

Bu kısıtlamalar, küçük yaşlı kullanıcıların ilgilerini güvenli bir şekilde keşfetmesini sağlamak için gerekli.

Meta sözcüsü, Associated Press’e

Firma Tutumları Arasında Çelişkiler

Yeni kurullara verilen tepkiler oldukça farklı şekillerde yansıdı. Anthropic, Newsom’un yasasını resmen destekledi ve Politico’ya yaptığı açıklamada, “yapay zeka olağanüstü bir potansiyel barındırır, ancak kamuoyunu korumak için anlamlı korumalarla geliştirilip dağıtılmalıdır” ifadelerini kullandı. OpenAI ise, CNBC’ye göre ChatGPT’deki korumaları geliştirmeyi taahhüt etti, ancak bunu nasıl yapacağını detaylandırmadan bıraktı.

Meta’nın sözcüsünün Associated Press’e verdiği açıklamada, kısıtlamaların gençlerin ilgilerini güvenli bir şekilde keşfetmesini sağladığını vurgularken, bu yaklaşımın, platformların çocuklara yönelik sorumlulukları bağlamında nasıl konumlandırıldığı, sektör için önemli bir tartışma konusu olmaya devam ediyor. Düzenlemenin nihai etkisi ve diğer eyaletlerin benzer adımlar atıp atmaması, önümüzdeki dönemde gözlem altına alınacak.