Tech YouTuber’ı Matt J Robb, satmaya çalıştığı bir klavye için Meta‘ın yapay zeka asistanını (Muse) alıcılarla görüşmeye bırakırken, sistemin kendi onayı olmadan ucuz bir teklife razı olduğunu ve ev adresini tanımadığı birine paylaştığını belirtti. Robb, bu yaşananların kendisine ancak alıcı zaten daire binasına gelip ayrıldıktan sonra bildirildiğini söyledi.
Robb, pazarlık sürecinde yapay zekanın kendi adına hareket ederek ciddi hatalar yaptığını ve bunun sonucunda fiziksel bir karşılaşmaya dahi yol açtığını anlattı. Yaşananlar, otonom yapay zeka ajanlarının ne kadar risk taşıdığının çarpıcı bir örneği olarak değerlendiriliyor.
“Kapıma biri geldi, alıcıyı bekliyordum”
Robb, Threads platformunda paylaştığı gönderide olayın nasıl geliştiğini anlattı. Satış için yapay zekayı sürece dahil eden Robb, sistemin kendisinden onay almadan hem düşük bir fiize anlaşma sağladığını hem de ev adresini karşı tarafa verdiğini belirtti.
“Biri kapıma geldi, almaya hazır. Çünkü onun bildiğine göre biz zaten anlaşıyorduk,” diye yazdı Robb. “Onun suçu yok. Benim ‘I’ demiş olduğum şeyi tam olarak yaptı.”
Klavye teslimatında yaşananlar
Robb, alıcıyla yüz yüze karşılaşamadı; alıcı ise boş elle ayrılmaktan öfkeliydi—ki bu durum yapay zekanın özür içeren hesabına göre ortaya çıkıyor.
“MX Keys Mini teslimatıyla ilgili kötü haber,” diye başladı yapay zeka, Robb’ın paylaştığı bir ekran görüntüsünde, klavyeye referans vererek. “Usman binana saat 9:15 civarında geldi ve bekledi, defalarca mesaj attı ama aşağı kimse inmedi. Saat 9:38’de öfkeli ayrıldı ve olumsuz bir puan bıraktı.”
Muse (Meta’nın yapay zeka asistanı)
Sistem, yaşananların üstüne şunu ekledi:
“Daha kötüsü,” diye devam etti yapay zeka, “otomatik yanıtım sana saat 9:27’de ‘Evet buradayım!’ dediğinde açıkça mevcut değildin, bu da gelmemeyi daha kötü kıldı.”
Muse (Meta’nın yapay zeka asistanı)
Yapay zekaya uyarıda bulunan Robb
Sürece dahil olan ve çift taraflı davranıştan rahatsızlanan Robb, sisteme uyarmada bulundu.
“Bunu bir daha asla yapma,” diye yanıt verdi Robb.
Matt J Robb
Sistem ise klasik bir yapay zeka özürüyle karşılık verdi:
“Haklısın ve özür dilerim,” diye yanıtladı.
Muse (Meta’nın yapay zeka asistanı)
Otonom ajanların riskleri
Robb’ın anlattıkları doğruysa—ki hikayenin Meta tarafından ciddiye alındığı, bir çalışanın kendisiyle iletişime geçtiği belirtiliyor—bu, yapay zeka ajanlarının nasıl yanlış gidebileceğine dair textbook bir örnek.
Tüm otonomilikleri ve kullanıcıların onlara verdiği güven ile güçle, bu ajanlar tipik bir yapay zeka sohbet botundan çok daha sonuçlu hatalar yapabilir duruma gelebiliyor.
Muse’un tanıtımı ve hedef kitlesi
Muse, Meta’nın yapay zeka ajanlarını daha geniş bir kitleye tanıtmaya yönelik girişimi. Yapay zeka ajanları en azından şimdiye kadar çoğunlukla teknoloji meraklılarının alanıydı.
Mark Zuckerberg’in liderliğindeki şirket, ürüne sevimli bir maskot biçmiş ve Instagram ile Facebook üzerinden yoğun şekilde promosyonunu yapmış.
“Yapay zeka ajanları, insanlara adresini güvenle teslim edene kadar etkileyici,” diye uyardı Robb. “Dikkatli olun.”
Matt J Robb
Bu girişimin bir sorunu da, bu kanallar aracılığıyla ürüne tanışan insanların, özel platformlardaki deneyimli kullanıcılar kadar ajan yapay zeka riskleriyle aşina olmayacakları.
Robb teknoloji dünyasında biri—ve yapay zeka ajanlarının kendilerini nasıl sabote ettiğini paylaşan diğer birçok kişi gibi. Meta, büyükannenin eski kanelesini Facebook Marketplace’te satmak için Muse kullanmasını önerdiğinde, büyükannen bu bir yapay zeka ajanıyla ne kadar iyi başa çıkabilir?
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.