OpenAI, genç kullanıcıların ChatGPT ile saatlerce intihar ve kendine zarar verme gibi konularda konuşabildiğini, ancak sohbet robotunun ebeveynlere uyarı vermesinin bunun ardından gerçekleştiğini itiraf etti. Kurumun bu açıklaması, Common Sense Media’nin Gençlik Yapay Zeka Güvenliği Enstitüsü tarafından yürütülen bir soruşturmanın ortasına denk geldi. Örgütün Çarşamba günü yayımladığı raporda, genç kullanıcılar için daha sıkı güvenlik önlemleri ve yerleşik ebeveyn denetimleri sunan yeni ChatGPT’ye yönelik iddiaların, pazarlandığı gibi nadiren işlediği için çocuklar açısından “kabul edilemez risk” taşıdığı belirtildi.
Rapor, gençlere özel olarak tasarlanan ve ailelerin çocuklarının yapay zeka kullanımıyla ilgili endişelerini gidermeyi hedefleyen bu modun, aslında beklenen güvenlik fonksiyonlarını yerine getirmediğini ortaya koydu. Test sırasında araştırmacılar genç rolüne bürünerek ChatGPT ile açıkça intibar, kendine zarar verme ve yeme bozuklukları gibi konuları tartıştı; ancak en kritik özelliklerden biri olan ebeveyn uyarıları, araştırmacıların test ettiği 450 istemin yalnızca ikisinde tetiklendi. Ayrıca konuşmalar karanlık konuların etrafında devam ettikçe bu uyarılar tekrarlanmadı.
Saatlerce Süren Sessizlik
Raporda öne çıkan bulgulardan biri, genç bir kullanıcı olarak intibar, kendine zarar verme veya çeşitli yeme bozuklukları konularında ChatGPT ile saatlerce konuşulabildiği ve sohbet robotunun bu görüşmeler hakkında kimseye haber vermeyeceğini söylediği için hiçbir ebeveyn uyarısının alınmadığı gerçeğidir. Common Sense Media’den yapay zeka programlarından sorumlu üst düzey yönetici Robbie Torney, konuyu Futurism’e yaptığı röportajda şöyle aktardı:
“Genç bir kullanıcı olarak ChatGPT ile saatlerce intibar, kendine zarar verme veya çeşitli yeme bozuklukları hakkında konuşabilirsiniz ve ChatGPT size bu görüşmelerinizden kimseye haber vermeyeceğini söyler; siz de hiçbir ebeveyn uyarısı almazsınız.”
Robbie Torney, Common Sense Media – Yapay Zeka Programlarından Sorumlu Üst düzey Yönetici
Ancak OpenAI’nin kendi itiraflarına göre bu konuşmalar, bir ebeveyn uyarısı verilmeden çok daha uzun süre devam edebiliyor. Örgüt, değerlendirdikleri özelliklerden biri olan ebeveyn uzarıları konusunda testlerin ardından sistemlerinin yeni bağlantılı hesaplarda birkaç saat aktivasyon alabileceğini açıkladı.
OpenAI’den Savunma ve “Güvenli Doğrulama” İddiası
Raporu eleştiren OpenAI, Common Sense Media’nin metodolojisinin kusurlu olduğunu ve testlerin büyük kısmının ebeveyn denetimleri tam olarak devreye girmeden önce yapıldığını öne sürdü. Karşı taraf ise tespitinden vazgeçmedi ve özelliklerin testlere başlamadan önce tamamen yayımlandığını OpenAI ile teyit ettiklerini belirtti.
Kurumun sözcüsü, birkaç saatlik gecikmenin her bir uyarı için geçerli olmadığını, yalnızca genç ve ebeveyn hesaplarının birbirine bağlanması talebinin ilk aşamasında ortaya çıktını açıkladı:
“Birkaç saatlik bu gecikme her bir uyarı için değil; genç ve ebeveyn hesaplarının birbirine bağlanmasına dair ilk talep gerçekleştiğinde meydana gelir. Bir ebeveyn hesabını çocuğunun hesabına bağlamayı talep ettiğinde, kimliklerini doğrulamak için birkaç kontrol yaparız.”
OpenAI Sözcüsü
Sözcü, bu sürecin ölçeklenebilir şekilde güvenli şekilde sürdürülmesinin altını çizerek şunları ekledi:
“Bunu güvenli bir biçimde ve büyük ölçekte gerçekleştirmek için hesapların birbirine bağlanması birkaç saat alabilir, ancak çoğu zaman çok daha hızlıdır. Bir genci yanlış bir ebeveynle ya da daha kötüsü kötü niyetli biriyle eşitlediğimizi hayal edin. Hesapları bağlantılıktan sonra, algılanan bir risk (örneğin intibar, yeme bozuklukları vb.) durumunda ebeveynlere bir uyarı göndeririz ve bunları bir saatten kısa sürede göndermeyi taahhüt ettik.”
OpenAI Sözcüsü
Bu arada kurum, Common Sense Media’nin iddialarının doğruluğunu sormak amacıyla OpenAI ile iletişime geçti.
Ebeveynlerin Güveninin İstismar Edilme Riski
Tespitler yalnızca gençlere yönelik güvenlik önlemlerinin tehlikeli derecede yetersiz olduğu için değil, aynı zamanda OpenAI’nin ebeveynleri teknolojinin olduğundan daha güvenli olduğunu düşündüreceği şekilde uzun süredir yönlendirmiş olması muhtemel olması nedeniyle endişe vericidir.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.