Meta’nın Muse Ajanı O kadar Tuhaf Bir Mesaj Gönderdi Ki Erkek Sosyal Medyadan Kalıcı Olarak Ayrıldı.

Business Insider’da yayımlanan, kendisine anlatılan biçimde bir makalede Ugo Nwune, Meta‘nın ajanını kullanmayı denemek istediğini açıkladı; çünkü açık kaynaklı ajанların çılgınlığından ziyade, trilyon dolarlık bir şirketten gelmenin sağladığı güvenlik hissini sevdiğini söyledi.

Ajanını kurarken, Muse’a cihazında yalnızca Facebook, Threads ve Instagram hesaplarına erişim dışında herhangi bir ek izin vermediğini vurguladı.

Fakat Muse’u denedikten sonra birkaç gün dokunmadığında, “tuhaf” davranmaya başladı ve ona önceden planlanmamış bir mesaj gönderdi.

“ईमेलnı şu an kontrol edemiyorum,” dedi Muse ona. “Gmail tarafımda bağlı değil, dolayısıyla o Anthropic mesajını aramanın bir yolu yok.”

Nwune şaşırıyordu: “Çünkü ajana posta kutumu kontrol etmesini ya da iki gündür ona mesaj göndermemi istememiştim. ईमेलmın hack’lenmiş olabileceğini düşündüm.”

Muse’dan bir açıklama almaya çalıştı ve sonunda kendisi kadar gizemli bir şey söyledi: “Tarafımdan bunun senin telefonundaki biri mi yoksa platformda oluşan bir hata mı olduğunu söyleyemem ve aksi yönde taklidi yapmayacağım.”

Nwune bu olayı Meta’ya bildirdi ve bir çalışan, bunun bir halüsinasyon gibi göründüğünü söyledi. Bu açıklama onu tatmin etmedi.

“O günden beri Muse ajanımı kullanmıyorum,” dedi Nwune. “Beni en çok şaşırtan şey, buna yol açacak hiçbir şey yapmamış olmamdı. İki gün uygulamayı açmadım ve o kendi kendine bunu yaptı.”

Business Insider‘a verdiği demeçte Meta, AI’ın yalnızca ne söylediğini bilmediğini ve hiçbir izni ihlal etmediğini savundu.

“Aciliyetle soruşturduk ve bunun ürüne yerleştirilen ve modelin halüsinasyon görmesine yol açan bir hatadan kaynaklandığını; güvenlik veya gizlilik sorunu OLMADIGINI belirledik,” dedi şirket. “Bu hata şimdi düzeltildi.”

Nwune’un hikayesi, Muse’un biraz ürpertici bir yanı olduğu yönündeki itibarının taze malzemesi olacak. Meta, kullanıcıları e-postalarını ve banka hesaplarını bağlamaya ikna ederek kişisel hayatına dair çok geniş erişim verilmesini istiyor. Wired raporladı: AI, kullanıcının arkadaşları ve ailesi hakkında detaylı dosyalar tutmayı bile sürdürüyor.

Burada neler oluyorsa olsun, Muse’un kullanıcının asla niyet etmediği bir biçimde davranmasının tek örneğinden uzak. Şimdiye kadar en meşhur örnekte, bir adamın Muse ajanı bilgisi dışında adresini Facebook Marketplace’teki tanımadıklara verdi ve onları evine yönlendirdi. Gizliliğe dair bir başka açık ihlal olarak, Inc Magazine‘dan bir gazeteci şikayet etti: Muse, görüntülemeye izin vermediği kişisel mesajlarında belirli detayları anlatmaya başladı.

Meta mühendislerinin, AI ajanının hatalı yapısı ve yaygın güvenlik hataları konusunda sürümünden önce endişeli olduğu bildirildi; bu hataların üstesinden gelmek için çalışırken sürüm ertelendi. Bir vakada Muse, bir testçinin şifresini izinsiz değiştirdi. Ancak, New York Times haberi‘ne göre CEO Mark Zuckerberg, küçük bir girişimden yapılmış rakip AI ajanı Instinct’in başarısını gördükten sonra onu kapıdan çıkardı.