Bu hafta, San Francisco Başsavcısı David Chiu, destek hizmetlerinin “derin sahte pornografi” oluşturmasını yasaklayan Kaliforniya yasalarını ihlal ettikleri gerekçesiyle, Apple ve Google’a “çıplaklaştırma” uygulamalarının 13 tanesini uygulama mağazalarından kaldırması talebiyle resmi uyarılar gönderdi. Wired dergisi tarafından yayınlanan habere göre, bu uygulamalar sıradan fotoğrafları açıkça müstehcen görüntülere dönüştürmeyi son derece kolaylaştırıyor.
Bu zararlı yapay zeka araçları, kötü niyetli kişilerin giysileri çıkarmasına, bir kişinin özelliklerini değiştirmesine, onları cinsel pozisyonlara yerleştirmelerine ve kurbanların yüzlerini diğer insanların çıplak vücutlarına yerleştirmelerine olanak tanıyor. Bu durum, özellikle kadınlar ve çocukları orantusuz bir şekilde etkiliyor.
Chiu’nun gönderdiği uyarı mektuplarında, uygulama mağazalarının bu tür uygulamalara izin vermenin kabul edilemez olduğu belirtildi. Başsavcı Chiu, Wired dergisi ile yaptığı açıklamada, ofisinin “çıplaklaştırma” teknolojisinin ne kadar yaygın hale geldiği karşısında “derin bir dehşet” içinde olduğunu ifade etti.
“Bu görüntüler, kadınları ve kız çocuklarını zorbalığa, aşağılamaya ve tehdide maruz bırakmak için kullanılıyor,” dedi Chiu. “Bu sektörün bir kişinin itibarı, ruh sağlığı ve özerkliği üzerinde korkunç etkileri var. Bazı kurbanlar intihar etmeye kadar ileri gitmiş durumda.”
Wired dergisi, gönderilen mektupları inceledi ve Google’dan beş uygulamanın, Apple’dan ise sekiz uygulamanın kaldırılmasını istediğini doğruladı. Ancak, uygulamaların isimleri “insanları onlara yönlendirmekten kaçınmak” amacıyla belirtilmedi. Yine de, Wired dergisine göre, bir uygulamanın 1 milyondan fazla indirilmesiyle sonuçlanan ve kadınların görüntülerini cinsel olarak çekici hale getirme veya “sansürsüz” videolar oluşturma gibi özellikler sunduğu belirtildi.
Bu durum, sinema tarihinde benzer şekilde etik sınırları zorlayan eserlere gönderme yapıyor. Örneğin, 1970’lerin başlarında çıkan ve pornografik öğeler içeren “Pink Flamingos” filmi veya daha sonraki dönemde, cinselliği açıkça işleyen ve toplumsal tabuları yıkan “Crash” filmi gibi yapımlar akla geliyor. Bu eserler, tıpkı bahsedilen uygulamalar gibi, toplumun değer yargılarını sorgularken aynı zamanda etik tartışmaları da beraberinde getirmiştir.
Chiu yaptığı açıklamada, “Rızası alınmamış özel görüntülerin oluşturulması yasa dışı, zararlı ve tamamen kabul edilemez” dedi. Ofisinin tahminlerine göre, Apple ve Google, bu zararlı uygulamalara karşı daha güçlü önlemler almak veya daha iyi tespit yöntemleri geliştirmek yerine, bu uygulamaların yarattığı rahatsızlıktan milyonlarca dolar gelir elde etmiş olabilirler.
Ars’e gönderdiği açıklamada, Google sözcüsü Dan Jackson, Chiu tarafından işaret edilen beş uygulamanın, zararlı içeriklere yönelik politikaları ihlal ettiği için Google Play Store’dan kaldırıldığını belirtti. Jackson, “Google Play, cinsel içerik içeren uygulamalara izin vermemektedir ve zararlı içeriklere sahip uygulamaları tespit etmek ve kaldırmak için sürekli olarak önleyici adımlar atmaktayız” dedi. Ayrıca, “Bize ihlaller bildirildiğinde, bunları araştırıyor ve hızlı bir şekilde harekete geçiyoruz; bu uygulamalar söz konusu olduğunda, yüzlerce ihlal eden uygulamanın askıya alınmasını ve mağaza içindeki ‘nudify’ gibi ilgili arama terimlerinin kısıtlanmasını içerdi” şeklinde ekledi.
Kaynak: Arstechnica