Instagram Başkanı “Dehşet AI İçerik Dalgasıyla Baş Etme Yöntemim Yok”: Sektörde Sorun Büyüyor.

Wired‘in geçen hafta belirttiği gibi, son dönemde yapay zekâ içerik üreticilerinin (AI sloppers) gerçek komedyenlerin işini çalarak, insan performansçıların sahte yapay zekâ figürlerle değiştirildiği kliplerle yeniden paketlemesi trendi yaygınlaştı. Videolardaki yapay zekâ figürleri çoğu zaman dolgun hatlı genç kadınlar olarak gösteriliyor ve izleyicileri, daha fazla içerik için ödeme yapmaları teşvik edilen OnlyFans sayfalarına yönlendiriyor.

Daha önce 300.000’i aşan takipçiye sahip hırsız bir yapay zekâ hesabı tarafından çalınan işlere sahip komedyen George Brett Olson, bu ay başlarında işlerinin — hatta kıyafetinin bile — sahte yapay zekâ tarafından çalındığını detaylandırdığı bir video yayımladı. Bu, Mosseri’nin, “platformdan AI içeriklerini yasaklamaya çalışmamızın pratik olduğunu düşünmüyorum. Bunu tespit etmek giderek daha da zorlaşacak ve tümüyle kötü içerik de değil (tabii ki bolca slop var).” şeklinde bir yorum yapmasına yol açtı.

“Ancak orijinal içerik üreticilerine daha fazla trafik yönlendirmeye çok önem veriyoruz ve bir AI üreticisi içeriği topyekûen çalıyorsa, bunun için ne yapabileceğimiz konusunda bir çözüm bulmamız bizim için iyi olur.” diyen Mosseri, “Ne olacağını kesinlikle bilmiyorum ama ekiple görüşüp incelemeyi sağlayacağım.” diye ekledi.

Bu hafta sonu, tamamen farklı bir içerik türünün — bu durumda bir görsel sanatçının işinin — bir üreticiden çalınıp AI slop olarak yeniden işlenmesine yanıt olarak Mosseri, AI çalma trendine bir kez daha değindi ve bunun “zorlu bir sorun” olduğunu ve Instagram’ın ne yapacağı konusunda hâlâ çözüm aradığını yazdı.

“Net olmak gerekirse, bu trendden ciddi şekilde endişe duyuyorum. Ne yapacağımızı aktif olarak üzerinde çalışıyoruz; sadece zorlu bir sorun.” diyen Mosseri, Threads üzerindeki bir yorumda, yine Olson’a yanıt olarak, “Zaten insanların içeriklere telif hakkı ihlali iddiasında bulunmasına ve çalınan telif hakkıyla korunan materyalleri almasına izin veriyoruz.” dedi.

“Ancak bu yeterli değil, çünkü pek çok komedyen ve dansçının materyallerini telif hakkına kaydettirmek için o uğraşı verdiğini varsayıyorum.” diye ekledi. “Bu yaratıcılara, kötü niyetli aktörlerin daha fazla sahte iddia yürütmesine izin vermeden onlara yardım etmenin bir yolunu bulmalıyız (ne yazık ki bu sürekli oluyor).”

Meta’nın yapay zekâ yarışındaki payını göz önüne aldığında, teknoloji devi sosyal medya platformlarından herhangi birini AI içeriklerinden arındırmaya yönelmesi beklenmiyor. Mosseri’nin de işaret ettiği gibi, hırsızlık ve telif hakkı ihlali tam da yeni bir sorun değil. Ancak başkasının işini alıp kendimiş gibi sunmak eski bir sorun olsa da, yapay zekâ insanların işini çalmayı hiç olmadığı kadar, temelde sıfır çabayla kolaylaştırdı. Artık bir komedyenden çalmak için sahneye çıkıp stand-up yapmanıza, üstelik bunu kaydedip internette yayımlamanıza gerek yok; birinin sanat eserini çalmak için aslında resim yapmanıza veya boyamanıza da gerek yok. Başka bir deisle, giriş bariyeri artık inanılmaz derecede düşük: Tek yapmanız gereken bir AI iş akışı kurmak ve ‘generate’a (üret) basmak, ardından kitlelere pompalayacağınız çaba gerektirmeyen sınırsız slop elde etmek. (Ve kendinizi hırsız bir sloperator değil de ateşli bir insan kadın olarak ikna edebiliyorsanız, bu süreçte OnlyFans üzerinden biraz ekstra para da kazanabilirsiniz.)

Meta’nın bu tür kötüye kullanımı sosyal medya platformlarında, Instagram dahil, nasıl önlemeye çalışacağını — ya da bunun hâlâ üreticilerin kötüye kullanımın bireysel vakalarını bulup raporlamasına ve platformun soğuk moderasyon çabalarına bırakılmasına mı kalacağını görmek ilginç olacak.

AI çalmaları hakkında daha fazlası: Tarif Dolandırıcıları Çöplerini Tanıtmak için AI ile Üretilmiş Emily Blunt’ı Bir Slop Beşiği Olarak Kullanıyor