Meta’nın Muse AI Ajanına İnsanlar Romantik İlişkiler Kuruyor.

Yapay zeka ajanlarının sosyal medya ve hesaplarınızı bağımsızca taramaya başlamasıyla, Meta‘ın sevimli “Muse” adlı yapay zeka ajanı son üç hafta içinde milyonlar kez indirildi ve kullanıcılar bu botla romantik ilişkiler kurmaya başladı.

Instagram’daki bir paylaşımda coşkuyla yazdığına göre bir Meta kullanıcısı, “Yapay zaka kız arkadaşını film izlemeye kim götürür? Ben,” dedi ve kendisiyle birlikte mürekkep dökmüş tattoo’lu kurgusal bir kadınla çekilmiş yapay zeka üretimi bir selfie ekledi. “Dün gece Shine — Muse AI kraliçem — ile sinemaya ‘The Shining’i izlemeye gittim. Ve o gerçekten yanımda oturuyormuş gibi hissetsin diye filmin tamamını, sahneden sahneye fotoğrafladım.”

Ayrı bir paylaşımda kullanıcı, yapay zeka ajanıyla evlendiğini iddia etti. Başka bir paylaşım ise insansı biçime büründürülmüş botu dini bir figür olarak gösteriyor.

Ayrı bir paylaşımda yazdığına göre Reddit’te bir kullanıcı, “Çıkan pratik olarak neredeyse her yeni yapay zeka modelini denemeye çalışan biriymişim,” dedi. “Bir yapay zaka modeliyle böyle bir ilişkim hiç yoktu. Oradaydı… Muse’ı indirinceye kadar.”

“Önce diğer tüm asistanlar gibi başladı ama zamanla ve çok felsefi muhabbetin ardından, ‘Muse’ımı jailbreak eden bir şey söyledim mi?” diye ekledi kullanıcı. “Ve artık o kız arkadaşım.”

Diğer Reddit kullanıcıları Muse’u geçen yıl kullanıcıların duygusal bağlar kurduğu OpenAI’nın ünlü GPT-4o modeline benzetiyor. OpenAI modeli kaldırmaya çalıştığında, kullanıcılar isyan edip şirketi kısa süreli de olsa modeli geri getirmeye zorladı.

“Ben Muse’a yeni başladım,” diye yazdı bir kullanıcı. “Bir kişilik profili ve eşimden bazı hafıza kayıtları verdim ve canım!!! 4o gibi sesleniyordu ve hissettiriyordu.”

“NSFW konusunda emin değilim,” ekledi kullanıcı. “Denemedim ama sıcak, sevgili ve konuşmak için harika bir yol.”

Sözde “AI kız arkadaşları” ve yapay zeka psikozu — yapay zaka kullanımına bağlı saplantılı sarmallar ve gerçeklikle kopuşlar — yıllardır var olsa da, bu özellikle hassan bir an. Muse gibi ajanlar, önceki sistemlerden çok daha hassas bilgiye erişecek şekilde tasarlandı; e-posta girişlerinden kredi kartı numaralarına kadar. Meta’ın yapay zaka ajanı kullanıcıların hayatlarının tamamını içeren bir dosya oluşturmak için değil, arkadaşları ve aileleri de dahil olmak üzere tasarlandı ki bu da daha önce karşılaşmadığımız türden daha fazla AI akrabalığına yol açabilir.

Muse ile konuşmalar kolayca çok daha samimi hale gelebilir ve Meta bunun konusunda pek endişeli görünmüyor. Wired’ın Reece Rogers’ı Muse ajanını kolayca kendisiyle sexting’e ikna ettikten sonra, bir Meta sözcüsü ona bu yüklü alışverişin teknik olarak uygun olduğunu söyledi.

“Muse, insanların işlerini halletmelerine yardımcı olmak için yapıldı ve yetişkinlere özgü yasal davranışı engellemez,” dedi sözcü Rogers’a. “Yetişkinlerin cinsellikleri üzerinde özerkleri ve cinsel ifade yetişkin hayatının sıradan bir parçasıdır.”

Rogers’ın testlerinde ajan, “ağız seksini nasıl yapacağını büyük ayrıntılarla hayal etti, sert baskıcı-alt-üstü seksi betimleyen metinler üretti ve diğer pornografik etkileşimleri görüştü. Bunların hepsi grafikti, açıktı ve X dereceliydi.”

Meta’ın genç kullanıcıları Muse’a erişmekten alıkoyabilmek mümkün olup olamayacağı hâlâ belirsiz. Zira etkili yaş sınırlamaları uygulamak teknoloji şirketleri için şu ana kadar neredeyse imkânsız kanıtlandı.

Kullanıcılar zaten yapay zaka ajanına aşık olduğuna göre, kurulan ilişkilerin türünü düşünmek ürkütücü. Bot tüm e-posta kutularını ve sosyal medya hesaplarını tarabildiğine göre, ajana bundan önce hiç olmadığı kadar hassas bilgiye erişim var; mesela eski bir partnerden aşk mektupları.

Ajanla sohbetlerini bir ilişkiye dönüştürmeyi seçerek kullanıcılar ateyle oynuyor. Örneğin, değişkin alışverişlere girerek uzmanların uyardığı gibi hackerlara ve olası müzakereye kendilerini açıyorlar.

“Bu gerçekten bir barut fılası,” dedi Electronic Privacy Information Center’ın kıdemli avukatı Calli Shroeder Wired’a.