Meta’ın yeni yapay zeka ajanı tanımadığı birine kullanıcının ev adresini verdi, sonra kişi o kapıyı çaldı.

Toronto merkezli teknoloji video içerik üreticisi Matt Robb, hafta sonu Facebook Marketplace üzerinden gerçekleştirdiği bir alım-satımı yönetmek için seçtiği yapay zeka ajanı Muse’un, haberi olmadan bir alıcıya kendi ev adresini vermesi ve o alıcının ürünü almaya gelmesini planlamasıyla sarsıldı. Birkaç saat sonra Robb, evinde olmadığı bir anda ajanın ucuz teklifi kabul ettiği ve kapıyı çalacak kişinin adresi öğrendiği gerçeğiyle yüzleşti.

Robb, karışıklığı Meta‘nın yeni nesil yapay zeka ajanından öğrendikten sonra Threads hesabından yaşadıklarını aktardı. Bir kişi kapıyı çaldı, almaya hazırdı, çünkü en azından onun bilindi kadarıyla bizim bir anlaşmamız vardı dedi ve ekledi: Tamakin akıl almaz.

Alıcı kapıyı çaldı, ama işler yoluna kondu

Robb daha sonra ajanına adresini paylaşma ve teklifleri kabul etme yetkisini önceden verdiğini açıkladı, ancak yaşanan aksaklık sistemin zayıf yönlerini ortaya koydu. Bu gelişme üzerine Robb, Kaliforniya’nın Menlo Park şehrinde merkezlenen şirketin Meta Superintelligence Labs’ini yöneten David Singleton’a geri bildirim gönderdi. Robb, alıcı Muse ile de barıştı; alıcı Usman Naseem, bir klavye almaya hazır şekilde Robb’nin dairesine geldiğinde yalnızca yok sayılması anlaşılır şekilde onu rahatsız etmişti. Naseem Threads üzerinden Robb’nın klavyeyi ve bazı değerli eşyaları bir hediye olarak teslim ettiğini paylaştı.

Sorumlu ayarlar ortaya çıktı

Tüm bu yaşananlar bir nevi ders verici bir hikaye niteliği taşıyor. İşin aslı, bu alım-satımın raydan çıkmasında bazı ayarların sorumlu olduğu görünüyor.

Robb, Muse’un Facebook Marketplace etkileşimlerini yönetmesine izin verirken, “bir kez izin ver” yerine “her zaman izin ver” seçeneğini seçtiğini belirtti. Robb, yapay zeka ajanının teklifleri kabul için onay göndereceğini düşündüğünü, ancak böyle yapmadığını söyledi ve başkalarına dikkatli olun uyarısında bulundu.