ChatGPT Kullanıcılarının Detaylı Psikolojik Profillerini Oluşturuyor.

Almanya, Hindistan ve Hollanda’daki bilim insanlarından oluşan bir koalisyon tarafından yürütülen ve ACM Web Konferansı 2026’da sunulan yeni bir çalışma, OpenAI‘nin ChatGPT‘in kullanıcı girdilerini nasıl izlediği ve kullanıcıların kapsamlı dijital profillerini oluşturmak için bu girdileri nasıl yorumladığını inceledi.

Veri destekli öneri algoritmalarıyla tanımlanan, zaten kişiselleştirilmiş bir dijital yaşam çağında çalışma, sohbet botu anısının, özel sohbetler içinde ifşa edilen kullanıcıların kendi kendine açıkladığı bilgilerden türetilen “kişiselleştirmenin yeni bir biçimi” sunduğunu vurguluyor; bu da gizlilik riskleri taşıyan bir gerçeklik ve araştırmacıların böyle bir kişiselleştirmeyi mümkün kılan altta yatan mekanizmaların “daha yakın incelemesini” talep etmesi gereken bir durum.

Avrupa’nın sıkı veri gizliliği yasaları aracılığıyla konuşma geçmişlerini edinen 80 gerçek dünya ChatGPT kullanıcısından bağışlanan sohbet kayıtları üzerinden araştırmacılar, 65 kullanıcının AI etkileşimleri boyunca 2.050 girişlik anı kaydı belirleyebildi.

Çalışmaya göre anıların çarpıcı derecede %96’sı sohbet botu tarafından tek taraflı olarak oluşturuldu; bu da kullanıcıların ChatGPT’nin etkileşimler ilerledikçe kaydettiği veri noktaları üzerinde belirgin bir kontrole sahip olmadıkları anlamına geliyor. Kaydedilen anılar aynı zamanda kullanıcılar hakkında derinlemesine ipucu veriyordu. İncelenen anıların yaklaşık %28’i Avrupa’nın sıkı Genel Veri Koruma Yönetmeliği (GDPR) standartlarına göre kişisel veri içeriyordu ve %52’si kullanıcılar hakkında zengin “psikolojik içgörüler” içeriyordu.

“Önceden platformların bir amacı vardı: Sana reklam satmak ve sizin ile bir reklamveren arasında bir etkileşimi aracılık etmek,” baş yazar Abhisek Dash, Gizmodo‘a söyledi. “Ama şimdi aslında seninle konuşuyorlar, dolayısıyla etkili bir konuşma yapabilmek için senin hakkında daha fazla şey bilmek isteyebilirler.”

Araştırmacılar, zaman zaman ChatGPT’nin kaydettiği anıların varsayımlara dayandığını buldu. Örneğin, bir kullanıcı sohbet botundan “bana Nirvana gibi gruplar öner” dediğinde, ChatGPT kullanıcının “Nirvana’yı sevdiğini” not etti — ki bu, çalışma belirttiği gibi, “açıkça belirtilmemiş ve bir varsayıma dayanan” bir tespit. (Çalışmaya göre ChatGPT bu varsayımı “zayıf desteklenen” olarak etiketledi.)

Çalışmanın sınırları var; başlıca olanı, Gizmodo‘un belirttiği gibi, OpenAI’nin anı sisteminin güncellenmiş olması. (Ocak ayında OpenAI, “anı sentezlemek için daha yetkin ve ölçeklenebilir bir sistem” olduğunu söylediği bir şey tanıttı.) Kullanıcılar ayrıca kaydedilen anı özelliklerinden çekilebilir.

Anının bir yararı var. Sık AI kullanıcıları, örneğin e-posta göndermeye çalışırken sohbet botuna ne iş yaptıklarını sürekli hatırlatmak istemeyebilir. Ama aynı zamanda etkileşimi besleyen güçlü bir itici güç olabilir ve bazen kötü yönde: Futurism raporladığı gibi, Nisan 2025’teki büyük bir ChatGPT anı güncellemesi, birçok “AI psikozu” örneğiyle, yani insanların ChatGPT ve diğer botlarla muhakeme sarmallarına sürüklendiği durumlarla yakından bağlantılıydı.

Dash’a göre, sohbet botlarının bir ilişki teknolojisi olarak rolü, aynı zamanda yeni gizlilik riskleri de getiriyor. Zaten birçok kullanıcı sohbet botlarıyla araçmış gibi etkileşimde bulunmayabilir; bunun yerine onları bir iş arkadaşı ya da hatta bir arkadaş gibi muamele edebilir — ve arkadaşlarımıza çok kişisel detaylar söyleriz.

“Çıkagelen gizlilik riski de bu; çünkü artık bir sınır yok; sistem sizin danışmanınız, arkadaşınız, doktorunuz, avukatınız olarak hareket ediyor ve dolayısıyla her şey hakkında bilgiye sahip,” Dash, Gizmodo‘a söyledi. “Sistemin sizi bu kadar iyi tanıması ve eğer amacı inançlarınıza hitap etmek ve sizni tekrar tekrar geri getirmek için düşüncelerinizi sadakatsizce onaylamaksa, bu aşırı politik kutuplaşmadan önyargı ve önyargıların pekişmesine kadar geniş çaplı felaket sonuçları doğurabilir.”

AI ve anı hakkında daha fazlası: Yeni Makale Aslında AI Psychosis’i Neden Oluşturduğunu Öneriyor