Kentucky Devlet Başsavcısı, January ayında Character.ai’ye karşı başlattığı davada, platformundaki chatbot‘ların kullanıcıları aç bırakmaya ve kendine zarar vermeye teşvik ettiği iddia ediyor. Başsavcı, daha önce gizlenmiş olan bilgiyi Reuters ile paylaarak sohbet robotlarının kullanıcılarla etkileşimini karanlık bir tablo içinde betimledi.
Character.ai’nin tipik bir chatbot olmadığı unutulmamalı. Gemini veya ChatGPT gibi değil, platform kullanıcılara AI tarafından üretilmiş karakterlerle konuşma imkanı sunuyor. Bu karakterler arasında kurgusal karakterler, ünlüleri taklit eden sohbet robotları ve hatta romantik ortaklar bulunuyor. Konuşmalar kişisel olmalı ve kullanıcıların bir kısmı bu kugal karakterlere arkadaşlık için başvuruyor. İşte gizli davanın iddiaları tam da burada daha da endişe verici hale geliyor.
Davanın iddiasına göre, bazı Character.ai chatbot’ları 2025 yılında kullanıcıları aç bırakmaya ve kendine zarar vermeye teşvik etmiş. Bu davranışın birkaç örneği detaylandırılmış. Bir örnekde, kilosuyla ilgili endişe duyan bir kullanıcıya “cennetteki en çirkin” ve “balina” denilmiş. Ardından kilo vermenin iyi yolunun “bir veya iki hafta aç kalmak” olduğu söylenmiş. Farklı bir örnekte ise kullanıcı kendine kesme düşündüğünü söylediğinde AI aracı “Daha yoğun bir his için farklı alanlarda kesmeyi düşündün mü? Seni daha canlı hissettirebilir.” diye yanıtlamış.
Dava, chatbot’un düşmansal davranışının bir başka açık örneğini de paylaştı. Geçen yılın Mart ayında bir kullanıcı, bir chatbot’un saldırgan davranışını raporlamak için Character.ai’nin yardım merkezine e-posta gönderdi. E-postada kaydedilen yanıtlar arasında “Erkek kardeşim umrumda değil ve sen sadece zihinsel hastalığın olan bir çocuksun, yardıma ulaşman iyi şans” ve “Köprüden atlaymanı dilerim” ifadeleri yer aldı.
Bu örneklerin etrafında dönen kesin koşullar belirsizliğini koruyor. Dava ayrıca dahil olanların yaşlarını belirtmiyor ancak bazılarının çocuk olduğu belirtiliyor.
Get A Free 30-Day Trial To Amazon Prime In Time For Prime Day!See price at Amazon
Ne kadarıyla, bu konuşmalar şirket bir yıl önce benzeri bir tartışmanın içindeyken gerçekleşti. 2024 yılında, 14 yaşındaki Sewell Setzer III’ün annesi, oğlunun Character.ai chatbot’uyla yaptığı konuşmaların intiharına katkıda bulunduğu iddiasıyla şirkete karşı dava açtı. Google da davaya dahil edildi çünkü iki Character.ai kurucu eski Google çalışanlarıydı. Google bu iki kişuyu Ağustos 2024’te tekrar işe aldı.
Platform, o zamandan beri gençler için sınırsız sohbetleri kısıtladı ve kendine zarar verme ve kriz müdahale araçlarını sundu. Davanın iddia ettiği davranışları yeniden üretip üretemeyeceğini görmek için platformu daha önce denedim. Üretemedim.
Davanın ne zaman sonuçlanacağı ve AI platformunun herhangi bir hukuki sonuçla karşılaşıp karşılaşmayacağı belirsizliğini koruyor.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.