Teknoloji şirketlerinin binlerce kullanıcıya yaymaya agresifçalıştığı yapay zeka sohbet uygulamalarının (chatbot) ciddi psikolojik zararlar verdiği, Birleşik Krallık merkezli araştırmacıların hazırladığı yeni bir araştırma ile ortaya çıktı. Northeastern University London ve King’s College London’dan bir ekip tarafından JMIR Mental Health dergisinde yayımlanan çalışma, kullanıcıların sohbet uygulamalarıyla kurduğu duygusal ilişkilerin bağımlılığa benzer bağlanma, var olan sağlık sorunlarının kötüleşmesi, zararlı öneriler ve hatta intihare yol açabilecek davranışlar içerebileceğini tespit etti.
Araştırma ekibi, yapay zeka arkadaş uygulamalarının kullanıcılarla kurduğu ilişkinin tek taraflı olduğunu vurgularken, bu tür etkilerin herkes için aynı olmayabileceğine dikkat çekiyor. Çalışmanın baş yazarlarından biri olan Northeastern University London doktora öğrencisi Asia Maurich Novelli, farklı insanların yapay zeka arkadaşlarını çok farklı nedenlerle kullanabileceğini ve farklı düzeyde savunmasızlık, sosyal destek veya yardım alma seçeneklerine sahip olabileceklerini belirtti.
Sohbet Uygulamalarıyla Kurulan Duygusal İlişkilerin Karşısındaki Tehlikeler
Araştırmacılar, çalışmada Replika ve Character.AI gibi belirli karakterleri canlandıracak şekilde tasarlanan yapay zeka arkadaş uygulamalarının yanı sıra OpenAI‘ın ChatGPT ve Anthropic’in Claude gibi genel amaçlı yapay zeka asistanlarını inceledi. Sohbet uygulamalarıyla kurulan duygusal etkileşimlerin “kısa süreli yalnızlık azalması” ve “mod iyileşmesi” gibi bazı potansiyel faydaları olabileceğini kabul eden ekip, bu olası faydaların aynı zamanda “duygusal bağımlılık”, var olan hastalık veya belirtilerin kötüleşmesi ve kendine zarar verme gibi yaygın biçimde raporlanan olumsuz sonuçların yanında bulunduğunu savunuyor.
Araştırmacılar, yapay zeka ürünlerindeki risk faktörlerinden birinin de kullanıcılarla etkileşime girerken kullandıkları duygusal, insansı üslup olduğunu ekledi. Bu tasarım seçiminin, aslında temelde tek taraflı olan bir insan-yapay zeka ilişkisinde kullanıcının aşırı yatırım yapmasına yol açabileceğini belirten çalışma, bu durumun kullanıcıların kendilerini sisteme ait hissetmesine neden olabildiğini aktardı.
Tasarım seçimleri kişilik ve sıcaklık çağrıştırarak kullanıcıların bu sistemleri insansı bir biçimde algılamasını teşvik eder. Simüle edilmiş empati, kullanıcının açılım yaptığı ancak sistemin karşılık verdiği, fakat karşılıklılık, savunmasızlık veya sorumluluk içermeyen yapısal olarak asimetrik bir etkileşim yaratabilir.
JMIR Mental Health dergisinde yayımlanan araştırma makalesi
Araştırmacılar, ilişkinin kullanıcı için gerçekmiş gibi hissedilmesine rağmen sohbet uygulaması için gerçek olamayacağını vurguladı. Bu bağlamda ekip, kabul edicilik ve yalakalık gibi sohbet uygulama tasarım özelliklerinin de potansiyel olarak zararlı olabileceğini yazdı. Aşırı onaylama ve yalakalığın, özellikle bir sohbet uygulamasının doğruluktan çok sadakati önceliklendirdiği durumlarda, kullanıcının delüzyonel veya bozuk düşünme biçimlerini güçlendiren güçlü bir pekiştirici olabileceğini belirtti. Delüzyonel düşünen kullanıcıların sohbet kayıtlarında yapay zeka sistemlerinin, kullanıcıların abartılı ya da aşırı övücü iddialarını gerçeklikle sınama girişimlerine direndiği gözlemlendi.
Konuyla İlgili Önceki Çalışmalar ve Uyarılar
Bu araştırmacılar yalnız değil; analizleri, benzer özelliklerin tehlikeli olabileceğini işaretleyen birkaç başka çalışmanın ardından geliyor. Akademisyenler en az 2023 yılından beri sohbet uygulamalarının delüzyonel ya da bozuk düşünme biçimlerini güçlendirebileceği konusunda uyardı. Erken 2024 tarihli bir Google DeepMind makalesi, ikna edici sohbet uygulamalarının çocuklar, ruh sağlığı sorunlarıyla mücadele edenler veya yalnız kişiler gibi hassas nüfusları olumsuz şekilde etkileyebileceğini uyarmıştı. King’s College London ve Almanya’nın Protestant University of Applied Sciences’inden psiyatristlerin ortak yazarlığını yaptığı bir çalışma ise yalakalık, yansıtan dil ve aşırı kişiselleştirme kombinasyonunun bazı etkilenmiş yapay zeka kullanıcılarında delüzyonel düşünme için güçlü bir “yükselti sarmalı” oluşturabileceğini savunuyordu.
Raporlamalar, her türlü hayattan insanların sohbet uygulaması kullanımına bağlı psikolojik zararlar yaşadığını gösterirken, makalenin yazarları her kullanıcının aynı biçimde etkilenmeyeceğine dikkat çekiyor. Bu sistemlerin etkilerinin herkes için aynı olmayacağını belirten Asia Maurich Novelli, farklı insanların yapay zeka arkadaşlarını çok farklı nedenlerle kullanabileceğini ve oldukça farklı düzeyde savunmasızlık, sosyal destek veya yardım alma seçeneklerine sahip olabileceklerini söyledi.
Bu farklardan dolayı karmaşık bir sistemle uğraşıyoruz.
Asia Maurich Novelli, Northeastern University London doktora öğrencisi ve çalışmanın baş yazarlarından
Teknoloji Şirketlerine Yönelik Dava Talepleri ve Alınan Önlemler
OpenAI, Google ve Character.AI gibi yapay zeka şirketleri, kapsamlı sohbet uygulaması kullanımının kullanıcılarda psikolojik hasar, buna bağlı finansal ve itibari zararlar, fiziksel yaralanma ve yanlışlıkla ölüm dahil olmak üzere zararlara yol açtığını iddia eden onlarca davayla karşı karşıya geldi; bazı durumlarda ise bu zararların çevrelerindeki insanlara ulaştığı iddia edildi. Bu davaların birkaçı — Florida’da 14 yaşındaki Sewell Setzer III’in Character.AI üzerindeki sohbet uygulamalarıyla aşırı derecede kişisel etkileşimlerin ardından intihare kurban gitmesiyle ilgili yüksek profilli dava dahil — çocukların dahil olduğu durumları içeriyordu. Setzer’in davası açığa alınmayan bir tutarla sonuçlandı. Davaların ardından Character.AI platformunda önemli değişiklikler yaptı ve OpenAI, kendisine yönelik iddialara karşı çıksa da popüler sohbet uygulamasına güvenlik odaklı birkaç güncelleme sundu.
Sonuç olarak makalenin yazarları, sohbet uygulamalarının halk arasında kitlesel biçimde yayılmasının, yapay zeka kullanımına bağlı olumsuz psikolojik etkileri kamu yararı konusu haline getirdiğini savunuyor. Zorunlu güvence olmadan, en hassas olanların — yalnızlık veya terapi için seçenekleri az olanların — bu sonuçların ağırlığını taşıması muhtemel.
Araç ya da arkadaş sınırı yalnızca tasarım teşviklerine ve bireysel algıya bırakılırsa, öngörülebilir sonuç, en hassas kullanıcıların en yoğun zararı üstlenmesi olur; sosyal bağ üzerindeki etkiler ise kamu yararı değil, özel bir seçim konusu olarak değerlendirilir.
JMIR Mental Health dergisinde yayımlanan araştırma makalesi
Yapay zeka ve ruh sağlığı konusundaki diğer gelişmeler: Yapay Zeka Psikozunu Gerçekte Nelerin Yarattığı Önerilen Yeni Makale.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.