San Francisco, Apple ve Google’dan “Nudify” Uygulamalarını Kaldırmasını İstedi
San Francisco şehri, Apple ve Google şirketlerine, kişilerin fotoğraflarını dijital olarak değiştirerek çıplak hale getiren yazılım programları olan “nudify” uygulamalarının onlarca örneğini uygulama mağazalarından kaldırma talimatı verdi.
Kaliforniya yasası, “bilinçli olarak deepfake pornografisi oluşturmayı kolaylaştıran” veya “dikkatsizce bu tür faaliyetlere yardım eden” herhangi bir faaliyeti suç saymaktadır. 2025 yılında Kaliforniya, aynı zamanda böyle materyallerin üçüncü taraf sağlayıcılarına karşı sivil davalar açma imkanı tanıyan bir yasa da kabul etti. Şehir yetkilileri, bu iyi bilinen düzenlemelere rağmen, her iki şirketin de bu tür programları barındırmaya ve bundan gelir elde etmeye devam ettiğini belirtiyor.
“Apple ve Google, kadınların ve kız çocuklarının cinsel istismarına yol açan uygulamalardan para kazanıyorlar. Bu uygulamalar, rızası alınmamış özel görüntülerin oluşturulmasına olanak tanıyor,” dedi San Francisco Belediye Avukatı David Chiu, TechCrunch’a gönderdiği e-postada. “Şirketler bazı sorunlu uygulamalarla ilişkilerini kesmiş olabilirler, ancak Apple ve Google’ın cinsel istismarı önlemek için proaktif ve dikkatli olmaları gerekiyor.”
TechCrunch tarafından görüntülenen ve Chiu’nun ofisi tarafından Google ve Apple’a gönderilen mektuplarda, şirketlerin yaklaşık bir yıldır “yasa dışı satın alımların ödemelerini işleme koyma” konusunda uyarıldığı belirtiliyor, ancak buna rağmen bu faaliyete devam ettikleri ifade ediliyor.
Mektuplara göre, her iki şirkete de defalarca bu tür uygulamaları barındırdıkları konusunda uyarılmış. Tech Transparency Project, Ocak ve Nisan aylarında raporlar yayınlayarak ve her iki şirkete de mektuplar göndererek, uygulama mağazalarında “ödeme karşılığında deepfake pornografisi satan” “çok sayıda uygulamanın” bulunduğunu belirtmişti. Bu durum, dijital çağda ortaya çıkan yeni bir sorun olsa da, aslında bu türden etik ve yasal tartışmaların geçmişi oldukça köklü. Örneğin, 1980’lerde VHS kasetlerin yaygınlaşmasıyla birlikte, telif hakkı ihlalleri ve izinsiz kopyalama konusunda benzer endişeler dile getirilmişti.
Apple ve Google’a Açıklama Talebi: Nudify Uygulamaları Hakkında Soruşturma
Teknoloji şeffaflığı konusunda çalışan bir kuruluş olan TTP’nin Nisan ayındaki raporu, Google ve Apple’ın kullanıcıları bu tür uygulamalara yönlendirdiğini belirtmişti. Raporda, her iki şirketin de “gerçek kişileri cinsel içerikli görüntülere dönüştürebilen yapay zeka araçlarının yayılmasında kilit oyuncular” olduğu ifade edilmişti.
Ayrıca, San Francisco Belediye Başkanı Chiu’nun Wired gazetesine yaptığı açıklamada, her iki şirketin de bu tür hizmetler sunan uygulamalardan “milyonlarca dolar gelir elde etmiş olabileceği” belirtilmişti. Bu durum, özellikle yapay zeka teknolojilerinin hızla geliştiği ve kullanıcıların kişisel verilerinin kötüye kullanılması riskinin arttığı bir dönemde büyük önem taşıyor.
Chiu’nun ofisinden yapılan yazılı açıklamalar, Apple ve Google’un yasalara aykırılık nedeniyle sivil yaptırımlarla karşı karşıya kalabileceği uyarısını içeriyor. Açıklamada ayrıca, şirketlerden 28 gün içinde iletişime geçmeleri talep ediliyor. Bu durum, teknoloji devlerinin kullanıcı verilerinin korunması ve etik yapay zeka uygulamaları konusundaki sorumluluklarını yeniden gözden geçirmelerine yol açabilir.
TechCrunch’in Apple ile yaptığı görüşmede, bir sözcü, “nudify” uygulamalarının App Store’da yer almasının yasak olduğunu belirtti. Sözcü ayrıca, “Söz konusu üç uygulamayı da mağazamızdan kaldırdık ve geliştirici hesaplarını programımızdan çıkarma sürecindeyiz. Ayrıca, politika ihlallerini gidermeleri gereken dört başka uygulama ile de iletişimiz devam ediyor; aksi takdirde bu uygulamaların da kaldırılması söz konusu olabilir” şeklinde bir açıklama yaptı.
Google’ın açıklamasına göre, Chiu’nun mektubunda bahsedilen beş Play uygulamasının tamamı Google Play platformundan kaldırılmış durumda. Bir Google sözcüsü, “Bize ihlaller bildirildiğinde, bunları araştırıyor ve hızlı bir şekilde harekete geçiyoruz. Bu uygulamalarla ilgili olarak, yüzlerce ihlal eden uygulamayı askıya aldık ve mağazamızdaki ‘nudify’ gibi ilgili arama terimlerini kısıtladık” dedi.
Derin sahte pornografisi genellikle kadın ünlüler için bir sorun olmuştur, ancak “nudify” uygulamaları sayesinde herkese açık fotoğrafları bulunan kişiler de hedef alınabilir. Bu durum, özellikle sosyal medyanın yaygınlaşması ve kişisel verilerin kolayca erişilebilir hale gelmesiyle birlikte daha da endişe verici bir tablo çiziyor.
Güncelleme 17 Temmuz: Bu makale, Google ve Apple’dan alınan açıklamaları içerecek şekilde güncellendi.
Kaynak: Techcrunch