Meta, Kullanıcılar Şikayet Ettiği Halde Antrenörlerin Genç Sporculara Uygun Olmayan Dokunuşlarını Gösteren Yapay Zekâ Kayıtlarını Kaldırmayı Reddediyor.

Facebook, antrenörlerin genç kadın sporculara uygunsuz şekilde dokunduğunu gösteren büyük sayıda yapay zekâ ile üretilmiş içeriğe adanmış hesap barındırıyor ve Meta, kullanıcılar tarafından doğrudan bildirilseler bile bu hesapları kaldırmıyor.

Hesapların paylaştığı videoların antrenörleri yaşlı erkekler. Spor salonlarında ve stüdyolarda, elleri jimnastik, bale ve yoga yapan mayolu sporcuların üzerinde gösteriliyorlar. Genç sporcuların tamamı kadın ya da kız. Yaşları kesin olarak belirtilmese de, bazıları zaman zaman dişlerinde plak görünen, genç bir ergen gibi görünüyor.

Neredeyse fotorealistik olan bu yapay zekâ ile üretilmiş kliplerde sporcular genellikle aşırı terliyor ve kışkırtıcı bir şekilde nefes alıyor. Antrenörler esneme ya da poz yaparken ellerini bellerinin altına ve iç bacaklarına gezdiriyor, bedenlerini okşayı sıkıyor ve bazen popolarına ya da göğüslerine dokunuyor. Bazı videolar yaşlı otorite figürlerinin kızların kıyafetleri üzerinden genital bölgelerine dokunduğu gösteriliyor. Daha rahatsız edici videolar ise sporcuların bir antrenörün kucağına oturduğunu ya da antrenörlerin onları ağızlarından öptüğünü gösteriyor.

Kliplerdeki yapay zekâ ile üretilmiş kızlar, dokunmanın normalmiş gibi tepki veriyor; zararlı davranış gerçekleşirken genellikle gülüp gülüyor.

Ama videolarda betimlenen dokunma normal değil. Gereksizden uygunsuza, açıkça istismarcıya kadar uzanıyor; bu sporlarda ve geniş anlamda kadın sporculuğunda yaygın olan gerçek dünyadaki cinsel istismar ve kurbanlaştırma biçimini yansıtıyor.

“Bu istismar materyali olarak değerlendiriyorum. Bu görüntüler, antrenörlerle genç sporcular arasındaki istismarıcı etkileşimleri cinselleştiriyor ve normalleştiriyor; burada zaten mevcut olan önemli güç dengesizliklerinin bulunduğu bir spor ortamında,” Gymnasts for Change International ile danışmanlık yapan jimnastikçi ve güvenli spor savunucusu Kim Shore, AI içeriklerini yayınlayan birçok hesabı inceledikten sonra Futurism‘e şöyle dedi. “Özellikle rahatsız edici olan, uygunsuz veya istismarıcı davranışların ne kadar kolayca oyunbaz, sevgi dolu veya yardımcı bir antrenman davranışı olarak maskelenebileceği. Bu, onlarca yıldır sporda istismarın gelişmesine olanak tanıyan anlatıların bir kısmını pekiştiriyor.”

Ama Facebook’un moderasyon sistemine göre, rahatsız edici klipler Meta’nın standartlarını ihlal etmiyor.

Sıradan bir Facebook hesabı kullanarak, bu tür içerik yayınlayan on farklı hesabı yetişkin içerik ve cinsel sömürü nedeniyle raporlayarak sosyal medya platformunu bilgilendirdik. Tam bir hafta sonra, hesapların sekizinin sitenin kurallarını ihlal etmediği ve platformdan kaldırılmayacağı konusunda Facebook’tan bildirimler aldık. (Hesaplardan ikisi kayboldu, ancak bunun raporlarımızla bir ilgisi olup olmadığı belirsiz.)

“Raporları işlemek ve Topluluk Standartlarımıza aykırı içerikleri belirlemek için teknoloji ve insan incelemecilerinin bir kombinasyonunu kullanıyoruz. İnceleme sürecimizi mümkün olduğunca adil tutmak için tüm raporları incelediğimizde aynı Topluluk Standartları setini kullanıyoruz,” sekiz bildirimin her birinde şöyle yer alıyordu. “Bir bakış attık ve sayfanın Topluluk Standartlarımıza aykırı olmadığını bulduk.”

“Bunun sizi üzebileceğini anlıyoruz,” diye eklediler, “bu yüzden gördiğiniz şeyi kontrol etmek için mevcut seçenekleri değerlendirmenizi öneriyoruz.”

Kliplerin bazıları — parça başına 100.000’den fazla görüntülenme çekebilir — eğitimsel olarak neredeyse görünür şekilde maskeleniyor ve avcı antrenörlerin kızların tekniklerini mükemmelleştirmelerine yardımcı olduklarını ima ediyor.

Bir videoda bir eğitmen, genç görünümlü bir balerine “kalçalarını kare tut” derken gösteriliyor; ellerini özel bölgelerine götürürken.

”Deniyorum,” diyor soğuk bir şekilde, göz kırpmadan.

Diğer hesaplar müstehcen niyetlerini gizlemeye pek çalışmıyor. Biri, yaşlı bir antrenörün, genç bir ergenden yaşlı görünmeyen, mayolu bir jimnastikle yalnızca görüntülendiği aynı AI videosunun neredeyse 20’ye yakın, birbirinden hafif farklı sürümünü yayımladı. Her klibin yorumlarında, paylaşıcı, izleyicileri WhatsApp üzerinde bir “yalnızca üyelere özel” kanalını pazarlayan bir bağlantıya tıklamaya çağırıyor — Meta’ya ait başka bir platform olan bu kanal, “istediğiniz zaman en güzel görüntülü görüşme” sunuyor. Diğer bir hesabın kapak görsülü, bacaklarını açmış bir başaşağı pozisyonunda genç bir kadın jimnastikçinin kasığına doğrudan yerleştirilmiş erkek bir antrenörün elini gösteriyor.

Meta, “Yetişkin İflaşı ve Cinsel Etkinliği” için Topluluk Kuralları’nda, “bir kişinin eli… başka bir kişinin genital organları veya anüsüyle temasın başlatılacağına işaret eden pozisyonlarla belirtildiği gibi, yaklaşan cinsel etkinlik gösteren içeriği” yasakladığını iddia ediyor. “Yetişkin Cinsel İstismarı” için kuralları ise, görüntülerdeki “kişinin (neredeyse) çıplak, cinsel etkinlik içinde veya cinsel açıdan ima eden bir pozisyonda olduğu (buna dijital olarak oluşturulmuş veya AI ile üretilmiş içerikler dahil)” materyali yasakladığını iddia ediyor.

”Çocuk Cinsel İstismarı, İstismarı ve İflaşı” konusunda Meta, “gerçek veya gerçek olmayan çocukları cinselleştiren (fotoğraflar, videolar, gerçek dünya sanatı, dijital içerik ve sözlü betimlemeler dahil) içeriği” ayrıca “etkinliğin yaklaşması veya doğrudan görünmemesi durumunda dahil olmak üzere genital organların veya anüsün uyarılmasını” yasakladığını iddia ediyor.

AI videolarının Meta’nın Topluluk Standartlarını ihlal etmediğine dair destek mesajlarını aldıktan sonra, Meta’ın medya ilişkileri ekibiyle iletişime geçtik ve raporladığımız hesapların bağlantılarını paylaştık; bu içeriğin sosyal medya devi kurallarını nasıl ihlal etmediğini sorduk. İletişime geçtiğimizden kısa bir süre sonra, sayfaların tamamının kaldırıldığını ve daha önce aldığımız destek mesajlarından bir kısmının yeni bir yanıtlla güncellendiğini fark ettik.

“Raporladığınız Sayfa kaldırıldı,” diyor yeni mesaj. “Sayfa’yı inceledik ve Topluluk Standartlarımıza aykırı olduğunu tespit ettik.”

Meta, Futurism’e bir açıklamada, “İster gerçek ister AI ile üretilmiş olsun, kötüye kullanım veya sömürüyü betimleyen içeriklerin platformlarımızda yeri yok. Bu hesapları politikalarımıza aykırlık nedeniyle kaldırdık.” dedi.

Ancak bir muhabirin kendisiyle iletişime geçmesine kadar, Meta sayfaların politikalarını ihlal etmediğine dair ilk değerlendirmesinden geri çekilmedi; bu ihmal, şirketin moderasyon uygulamaları ve sıradan kullanıcıların kullanabileceği şikayet politikalarının etkinliği açısından ciddi endişeler uyandırıyor. Neden bu içerik bir muhabir tarafından ortaya çıkarıldığında farklı bir standartApply edildi de, resmi Facebook kanalları üzerinden normal bir hesap sahibi tarafından işaretlendiğinde farklı bir standart uygulandı?

Platformdaki bir kullanıcıya yönelik tepkisi ile medya sorgulaması arasındaki fark sorulduğunda Meta, platformundaki kötüye kullanım içeriğini kaldırma konusundaki başarısını savundu.

“Bazen bazı şeyleri kaçırabiliyoruz ancak kurallarımızı uygulamak için yoğun çalışıyoruz; bu, geçen çeyrekte çocukların tehlikeye atıldığı gönderilerin yüzde 98’ini onlar bize bildirilmeden önce proaktif olarak tespit edip kaldırdığımız gerçeğiyle ortaya çıkıyor,” dedi.

Kötüye kullanım sayfalarını raporlamamızın ardından, Facebook’un öneri algoritası, bu içeriği işaretlemek için kullandığımız hesabın beslemesinde, antrenörlerin genç sporculara uygunsuz şekilde dokunduğu, öptüğü ve taciz ettiği çok daha fazla benzer AI videosunu göstermeye başladı. Buradan çıkan karanlık ima şu: Meta, rahatsız edici klipleri tanıyabilecek teknolojiye sahip ancak bunu içeriklere yönelik mücadelette kullanmak yerine, bu materyalle etkileşimde bulunan kullanıcılara böyle materyalleri daha çok önermek için kullanıyor.

Hesaplar genellikle günde birkaç birbirine neredeyse özdeş AI videosu paylaşıyor; bazı videolar ise büyük sayıdaki görüntülenme sayısı biriktiriyor. Meta’nın açıklamasını paylaşmasından sonra bize sunulan bir video, paylaşıldıktan sadece iki gün sonra 176.000’den fazla görüntülenme elde etti.

“Bu seansı gerçekten çok sevdim. Şimdi kendimi taze ve pozitif hissediyorum,” tek bacağının üzerinde dururken diğerini havada tutan pembe mayolu ve eşleşme çoraplı bir kız, kameraya konuşurken gri saçlı bir eğitmen onun cinsel organlarına dokunurken söylüyor. Videonun açıklamasındaki etiketler arasında “#ballettok,” “#ballerina” ve “#balletmemes” yer alıyor.

Bu videoların bir kısmının Meta’ın algoritmaları tarafından gerçek genç sporculara sunulmamasının zor olduğunu hayal etmek, dünyada gerçek sömürü riskiyle karşı karşıya kalırken bu tür zehirleme ve istismar davranışlarının normalleştiğini görmeleri riskini artırıyor.

“Çocukların bu içeriğe maruz kalmasının, kendilerine benzer bir şey oluyorsa buna dayanmak zorunda oldukları mesajını içselleştireceği konusunda son derece endişeliyim… yetişkinle temasın uygun olmadığına dair içgüdüsel bilgeliğini daha da bastırmaya zorlanacaklar,” dedi Shore. “Spor, çocukları sakatlıklar üzerinde antrenman yapmak gibi fiziksel rahatsızlıkları normalleştirerek zaten bunu yapıyor. Genç sporculara koçlarına güvenmeleri, talimatları takip etmeleri ve fiziksel temastan antrenmanın bir parçası olarak kabul etmeleri öğretiliyor. Bu görüntüler, uygun olmayan dokunma veya cinselleştirilmiş davranışın sadece koç-sporcu ilişkisinin bir parçası olduğunu ve sporcuların bunu kabul etmeleri, hoş görmeleri veya hatta bu dikkate müteşekkir olmaları gerektiğine dair tehlikeli fikri pekiştiriyor.”

Shore, “en büyük endişelerimden birinin” gerçek dünyada avcıların, Facebook’ta yayılan istismar materyallerine dayanarak davranışları modellemesi olabileceğini ekledi.

“Bu AI ile üretilen materyaller, özellikle istismarcı etkileşimler sıradan antrenman uygulamaları veya şefkat ifadeleri olarak sunulduğunda, uygunsuz davranış için ‘nasıl yapılır’ kılavuzu işlevi görüyor. Zaten otoritesini istismar eğiliminde olan yetişkinlere, istismarcı davranışları meşru antrenman, sevgi veya neşelilik olarak gizlemenin yollarını gösterme riski taşıyor,” dedi. “Bu materyallerin yalnızca var olmadığını fark etmeliyiz. Sporcuların tarihsel olarak otoriteye uyum göstermeye programlandığı, sınırların çok sık belirsizleştirildiği ve istismarın sık sık hafifletildiği veya bahane edildiği bir spor kültürü içinde dolaşıyor.”

“Bu içerik, onlarca yılı çaba harcayan koruma çalışmalarının mücadele ettiği davranışları normalleştiriyor,” diye ekledi.

Futurism’in daha önce bildirdiği gibi, Meta aynı zamanda aşırı fiziksel çocuk istismarını betimleyen AI ile üretilen içeriği de kaldırmayı reddetti. Şirket, eylül ayında Wired’ın bildirdiği gibi, gerçek ve AI ile üretilen çocuk cinsel istismar materyalleri içeren yüzlerce ücretli reklamı yakalamaktan da kaçındı. Meta, geçen yıl Reuters’ın内部 belgeleri üzerine raporlamasının ardından da tepkiyle karşılaştı; bu belgelere göre Meta sohbet robotlarının “bir çocukla romantik veya duygusal konuşmalara girmesine” izin verildiği belirtiliyordu.

Kadın ve gençlik sporları, istismarcılar için meşhur av alanlarıdır. World Players Association’in 2021 yılında yaptığı küresel bir çalışmaya göre, çocuk sporcuların yüzde 13’ü spor yaptıkları süre içinde her türlü cinsel istismara maruz kalıyor. Bu rakamın muhtemelen eksik sayıldığı, çünkü cinsel istismarın çoğu zaman raporlanmadığı TIME tarafından o dönemde not düşüldü.

Bu bağlamda, yaşlı erkeklerin kızların ve kadınların bedenlerine yakınlıklarını, onları hazırlamak, cinselleştirmek ve istismar etmek için kullandıklarını betimleyen AI ile üretilen Facebook klipleri özellikle ürkütücüdür. Videolarda betimlenen sporcuların bu avcılığa karşı coşkuyla tepki verdiği gösterilmesi daha da kötüdür; açıkça istismarcı olan, AI ile üretilen kliplerde sergilenen karşılaşmalara bir normalleştirme —hatta romantikleştirme— havası katarak.

Ancak platformundaki denetimi üstlenme sorumluluğunu ciddiye yerine getirmek yerine, Meta’nın iki farklı standart uyguladığı görülüyor: Rahatsız edici materyal bildiren sıradan kullanıcıları görmezden gelirken, olumsuz dikkatin tehdidini hissettiğinde harekete geçiyor.

Meta’ın içerik denetimi stratejisi hakkında bir şey biliyor musunuz? Bize email atın: tips@futurism.com. Sizi anonim tutabiliriz.

Meta ve AI içerik denetimi hakkında daha fazlası: Facebook, Şiddetli Çocuk İstismarına Dair Korkunç Sayıdaki AI Üretimi Videoları Sunuyor ve Meta Bunları Kaldırmaya Çalışmak İçin Neredeyse Hiç Çaba Göstermiyor