Meta‘ın yapay zekalı gözlüklerini kullanan içerik üreticilerinin, kamuya açık alanlardaki tanımadığı insanların yüzünü gizlice çekip yüz tanıma yazılımıyla eşleştirerek “iyi hissettiren” (joybait) türünde manipülatif videolar ürettiği ortaya çıktı. İçerik üreticisi Levese adlı hesabın, Walmart’ta alışveriş yapan rastgele bir erkeğin yüzünü fotoğrafını çekip yüz tanıma sitesi üzerinden kim olduğunu tespit ettiği ve ardından o kişiyle samimi bir diyalog kurarak videoya dönüştürdüğü görüldü. Bu uygulamanın taciz, zorbalık ve mahremiyet ihlali gibi sonuçlar doğurduğu belirtiliyor.
Gizlice herkesi çekebilen özellikleri nedeniyle halk arasında “yozlaşmış gözlük” (pervert glasses) olarak anılan yeni ürünler, dünyada her türlü meraklı ve içerik hırsızının kullanımına olanak tanıdı. Bu durum, kamuya açık alanlarda yaygın taciz, zorbalık ve mahremiyet ihlallerine yol açarken, şimdi aynı gözlüklerin “joybait” olarak adlandırılan karanır türdeki içerikleri beslediği iddia ediliyor.
Ragebait’in Masum Kardeşi: Joybait
Joybait kavramını anlamak için önce ona zıt görünen “ragebait”e bakmak gerekiyor. Ragebait, insanları kasıtl olarak öfkelendirmeye tasarlanmış, dolayısıyla tıklanma ve görüntülenme sayısını artıran çevrimiçi içerik türüdür. Joybait ise bu türün masum gibi görünen kardeşidir: sizi gülümsetmeye çalışan, o sıcak samimi duyguları uyandırmaya yönelik içeriktir.
Halkın yaygın olarak paylaştığı bir klibe göre, kamuya açık alanlarda şaka (prank) içeriği üreten Levese adlı hesap, Meta’ın yapay zekalı gözlüğünü kullanan kullanıcının bu düzenin nasıl işlediğini gösteriyor. Journalist James Vincent tarafından ilk kez tespit edilen video, Levese’in Travis Schick adlı yazarı Walmart’ta partneriyle alışveriş yaparken yakaladığını ortaya koyuyor.
Yüz Tanıma ile Kimlik Tespiti
Videoda dikkat çeken nokta, Levese’in Schick’e doğrudan yaklaşmamış olması. Bunun yerine telefonuyla Schick’in yüzünün fotoğrafını çekiyor ve ardından bunu bir yüz tanıma sitesi üzerinden aratıyor. Hizmet, Schick’in sosyal medya hesaplarını ortaya çıkarınca rastgele adamın edebiyata ilgi duyan bir romancı olduğu görülüyor. Levese bu bilginin ardından yaklaşımını gerçekleştiriyor ve Meta gözlükleriyle, mütevazı yazara sürpriz yapıyor.
“Bekle, Travis mi? ‘The Readhead’ adlı kitabı sen mi yazdın?”
Levese (video içi diyalog)
“Evet?”
Karışık bir ifadeyle yanıt veren yazar Schick
“İnanamam, o kitabı çok seviyorum! Dostum o kitabı gerçekten seviyorum. Çok güzel bir romanmış.”
Levese (video içi diyalog)
“Evet, bu bneydim.”
Schick gülümsemeye çalışırken
Dolandırıcılığa Dayanan Etkileşim
Etkileşim yüzeyde ne kadar olumlu görünürse görünsün, tümüyle yüz tanıma yazılımı kullanılarak kurulan sahte bir temele dayanıyor; bu teknoloji olmadan Levese’in Travis Schick’in gerçekte kim olduğunu asla bilmemesi gerekiyordu tabii ki. Schick kendisi de bu düzenin tamamıyla ikincil bir parçası; asıl mesele, Levese’in 225 bin TikTok takipçisine paylaşacağı bir içerik üretmekti.
Icerik olarak stunt büyük başarı elde etti. Reel yalnızca Levese’in TikTok sayfasında 60 milyondan fazla görüntülenme ve 30 bin yorum aldı ve düşündüğünüz her sosyal medya beslemesinde kolayca içerik çiftliklerinin malzemesi haline geldi.
“İyi Hissettiren İçerik Sosisinde Gizli Gözetim Kültürü”
Klibi ortaya çıkaran journalist James Vincent, bunun “iyi hissettiren içerik kisvesi altında kendini gösteren bireyselleştirilmiş gözetim kültürü”nü temsil ettiğini belirtti.
Bu ilk tuzak ikna edici bulunduğundan bazıları mahremiyet ihalini mazur görüp marifetin Schick’in eserine fayda sağladığını savundu. Gerçekten de Quotev yaratıcı platformundaki “The Redhead” adlı romanın altındaki yorumlar, başkaca hiçbir şekilde eserine ulaşamayacak nice hayırsever ve destekçiyle yüzlerce satırla doldu. Schick’in TikTok sayfası da benzer biçimde patladı: birkaç kısa günde yaklaşık 150 olan takipçi sayısı 12 bin 700’ü aştı.
“Bu videodan olumlu sonuçlar doğabilir (bunlar kısa formatlı içerik olarak yeni oluşundan kaynaklanıyor) — ancak daha büyük etki, iyiliği paraya çevirdiğimiz, yabancıların iyi niyetini sözdüğüümüz ve kamuya açık alanda mahremiyet hakkını yok ettiğimiz bir toplum yaratmak.”
James Vincent (X/Eski adıyla Twitter’daki yorumu)
Bu Tekil Olay Değil, Üretici Sınırı Bildiğini Belirtiyor
Edebiyata ilgi duyan romancının viral anı yalnızca kendisiyle sınırlı değil. Levese’in aynen aynı formatta onlarca videosu var ve her biri milyonlarca görüntülenme alıyor. İçerik üreticisi, bir sınırı geçtiğinin farkında görünüyor. İlk videoda muz alan bir erkeği takipteki içerik üreticisinin öne çıkan metinde “gün 1: insanların dijital ayak izini çalmak” yazısı yer alıyor.
“Bu uygulama tehlikeli.”
Levese (video açıklaması)
Meta ile ilgili benzer bir gelişmede, bir annenin Meta’ın yapay zekasının Instagram ve Facebook’u genç kızları hakkında müdahaleci bilgiler için taraması üzerine şok olduğu bildiriliyor.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.