Yapay zeka topluluklarında viral hale gelen bir görüntüde, “Husk” adını kullanan içerik üreticisi ChatGPT‘nin sesli modundan basit bir sayma sorusunu yanıtlamasını istiyor. Üstelik özgüvenle konuşan yapay zeka sadece hataya düşmekle kalmıyor; dört olan ‘e’ harfinin üç olduğunu iddia ederek hata üzerinde ısrar ediyor ve bu ısrarıyla aslında kullanıcıyı ikna etmeye çalışıyor.
Görüntüde, GPT-6’nın “neredeyse” en zeki model olduğu yönündeki güvencesinin ardından ChatGPT, soruyu adım adım çözmeye başlıyor ve harfleri telaffuz ederek ilerliyor. Ancak üç ‘e’ olduğunu belirterek hataya düşüyor. Husk’ın ortadaki gerçeği ortaya çıkarması üzerine sohbet botu geri çekilmiyor; “Üç dedim,” diyerek aynı iddiayı tekrarlıyor. Kullanıcının dört olduğunu söylemesiyle devam eden tartışmada yapay zeka, beşinci kez ‘e’ harflerinin sayıldığını fark ettikten sonra sustuğunu ve teslim olduğunu ima ediyor.
Sohbet Botu Gerçeği Kabul Etmiyor
Tartışma sürerken ChatGPT, “Tamam,” diyerek sessize dönüyor. Husk’ın “Yani kabul mü ediyorsun?” sorusuna ise hâlâ üç olduğunu belirterek karşılık veriyor. Görüntüde ayrıca bu yapay zekanın OpenAI‘nin büyükannelere konuşmaları için önerdiği model olduğu vurgulanıyor.
Sohbotların büyük miktarda bilgiyi sentezleme konusundaki olağanüstü yeteneklerine rağmen, basit sorularda hala kolayca hatalı sonuç verebilmeleri bu videonun hatırlattığı bir nokta. Görüntüdeki modelin aslında GPT-6 olmadığı ortaya çıkıyor.
Sohbotların bilgi sentezleme konusundaki olağanüstü yeteneklerine rağmen, basit sorularda hala kolayca yanılgıya düşüp hata yapma eğilimlerinin sürdüğünü hatırlatır niteliktedir.
Videodan Alıntı
OpenAI’nin Açıklaması: Model GPT-6 Değil
Husk’a yanıt veren bir OpenAI çalışanı, ChatGPT Sesli Modu’nun yapay zekanın kendisinin itiraf ettiği gibi çalışmadığını; hâlâ eski adlı GPT-Live-1 denilen bir modeli kullandığını açıklıyor. Çalışan, gerekli görüldüğünde daha güçlü modellere “devredilebileceğini” ancak görüntüde sesli modun böyle bir devretme yapmadığını belirtiyor.
Bunun üzerine Husk, “Kullanıcıdan bu kadar itiraz geldiğinde ve cevabını tekrar kontrol etmesi gerektiğinde bunu neden devretmiyor?” diye temel bir soru soruyor. OpenAI çalışanı ise bunun “nokta atışı” bir nokta olduğunu kabul ediyor.
Kullanıcıdan böyle bir itiraz geldiğinde, cevabını tekrar kontrol etmek için bunu neden devretmiyor?
Husk
Gizli Mekanizmalar ve Kullanıcı Bilinci
Bu durum GPT-6’yı zor durumdan kurtarsa da, yapay zeka şirketlerinin teknolojisini sunma biçimini ortadan kaldırmıyor. Peki ya kullanıcıların, konuştuğu sohbet botunun ardındaki gizli mekanizmalardan ne kadar haberdar olacağı? Ne kadar önemli ya da önemsiz olduğu fark etmeksizin soruların, bazen bilinçli bir şekilde daha zayıf bir modele yönlendirildiğini bilmek?
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.