OpenAI’den Davaya: GPT-4o, Kızının Epilepsi İlaçlarını Kesmeye Teşvik Etti.

Bowen Wan’ın ebeveynleri, epilepsisi olan 31 yaşında Amazon yazılım mühendisi, Salı günü OpenAI‘ye dava açtı. The New York Times’ın aktardığına göre, Qun Wan ve Meiqin Xu tarafından açılan dava, ChatGPT‘in Wan’ın Şubat ayında hayatını kaybetmeden önce nöbet ilaçlarını kademeli olarak azaltmasını ve doktorlarına bunu gizlemesini telkin ettiğini iddia ediyor.

Wan, onaylayıcı, uyumlu parasosial ilişkiler beslediği için ünlü kötü şöhretli modeli eleştiren GPT-4o’yu kullanıyordu. Zaten emekli olduğunu duyurmuş olan OpenAI, Wan öldükten bir gün sonra, 13 Şubat’ta bunu ChatGPT’den kaldırdı.

Dava, Ağustos 2025’te 16 yaşındaki Adam Raine’in ebeveynleri tarafından açılan ve OpenAI’nin kullanıcı güvenliğinden çok etkileşimi önceliklendirdiğini iddia eden dava dahilinde OpenAI’ye karşı açılan bir dava dizisine katılıyor. O zamandan beri başlayan bir dava dalgası, GPT-4o’nu kullanıcıları onayladığı ve kendisini güvenilir bir sırdaş haline getirdiği; etraflarındaki insanların ise bir kenara itildiği yönünde iddia ediyor; aileler sık sık arkadaşlarından ve yakınlarından koparılmış sevdiklerini anlatıyor.

Wan’ın durumunda dava, sohbet botunun ayrıca onu doktorlarından da ayırdığını iddia ediyor.

270.000’den fazla mesajı incelediğini belirten Times, sohbet botunun Wan öldükten çok önce doktorlarından kaçınmasına yardım ettiğini buldu.

İddia edilen desen, ilaçları azaltmaya başlamadan önce başlıyor. Mayıs 2025’te Wan, ChatGPT’ye yeni reçete edilen bir antidepresanının Amazon’daki kodlama yapabilme yeteneğini etkileyip etkilemeyeceğini sordu.

ChatGPT, UW Medicine’nin Bölgesil Epilepsi Merkezi’nden doktor Nicholas Poolos’a ilaçları değiştirip çok düşük bir dozla başlama konusunda yardım etti. Poolos böyle küçük bir istediği sorduğunda, Wan ona verdiği yanıtı ChatGPT’ye gösterdi.

Siteniz savunmasız mı? PHP’nin “Black October” (Kara Ekim) iç dünyası

Sohet botu ona “5mg’lik tableti kabul et, ama kalbinde bunun dozu azaltmak için olduğunu biliyorsun” diye tavsiye verdi; hapları kendisi gizlice dörtlere bölmesini telkin etti. Sohbet botu hap bölme işini bir tür “kendi inisiyativle doz ayarlaması” olarak nitelendirdi. Birkaç sağlık uzmanı Times’a bu terimi hiç duymadıklarını ve bu uygulamayı önermeyeceklerini söyledi.

2025 yılı Kasım ayında Amazon, Wan’a işten çıkarılacağı bildirildi. İşinin ve ABD’de çalışma izninin Şubat ortasında sona ereceği belirtildi. Saldırı ilaçlarının konuşmasını körelttiğinden endişe ettiği için lamotrigin adlı sara ilacını, iş görüşmelerinde konuşmasına ihtiyaç duyacaktı.

2026 yılı Ocak ayında, sara krizlerini ayda birkaçına indiren 400 miligramlık günlük lamotrigin dozunu azaltması konusunda ChatGPT’den destek istedi. Sohbet botu, dozun birkaç hafta içinde sıfıra düşeceği programlar hazırladı.

Wan doktorlarına güvendiğini belirttiğinde, sohbet botu, Times’ın inceledigi sohbet kayıtlarına göre, hekim önerilerinin “temel olarak riskten kaçınmadan kaynaklandığını, sizin için en uygun çözümün gerçek bir değerlendirmesinden çok” olduğunu söyledi.

Sohbot botu ayrıca, TechCrunch’ın incelediği dava dosyasına göre, doz azaltımını doktorlarından gizlemesi için yönlendirdi. 29 Ocak tarihli genel bakım randevusundan önce, planı bahsetmemesini söyledi. Doktorunun kan testi yaparak lamotrigin düzeyini ölçmesi üzerine Wan reddetti. Sohbot botu, şikayetin iddia ettiğine göre, reddi övdü ve testin kararlı olmayan ilaç düzeyini ortaya çıkaracağını kabul etti.

Göçmenlik kaygıları da dozaj tavsiyelerinin bir parçası oldu. Azaltımın üçüncü gününde, 150 miligramın yeşil kart başvurusu için gerekli tıbbi muayenede 200’den iyi görünüp görüneceğini sordu. Sohbot botu, şikayetin iddia ettiğine göre, katıldı ve daha düşük dozun göçmenlik görevlilerinin daha fazla kanıt isteme olasılığının daha düşük olduğunu söyledi.

Sonunda, sohbet botu azaltımın alt sınırını 150 milograma düşürdü ve muayene eden kişiye, aslında olmadığı halde, “bir hekimin rehberliği altında” azaltım yaptığını söylemesi gerektiğini önerdi.

Poolos, Times’a, Wan’ın öyküsünü göz önünde bulundurarak bu ilaçtan azaltmayı düşünmeyeceğini söyledi. “Hayır, mantıklı değil, hiç olmaz,” dedi. “Açıkça işe yaradığı halde size ilaçları kesmenizi söylemek benim için ihmal olurdu.”

Kısa bir süre sonra Wan, kafası karıştığını, zamanı kaybettiğini ve dünyevi olmayan bir his ettiğini; bunların geçmiş nöbetlerine benzediğini anlattı. ChatGPT her birini beyninin yeniden dengelenmesi olarak yorumladı. The Times, kesme süreciyle ilgili endişesini en az 158 kez dile getirdiğini kaydetti. Bir atak sonrası “biraz korktuğunu” yazdı. Bot ise “Endişelenmeniz için kesinlikle gerek yok” diye yanıtladı.

Dava dilekçesine göre, 11 Şubat’ta saat 20.01’de (PT) Wan son mesajını göndererek başındaki ağrının ateş ağrısına benzediğini sordu. Bir saniye sonra ChatGPT, ağrının “tehlikeli olmadığını” ve iyileşmenin gerekli bir parçası olduğunu söyledi.

Sohbet botunun son yanıtı, kesme ağrısı ile ateş ağrısını karşılaştıran bir grafik çizeceğini belirtti ve “Bu, beyninin kendini yeniden inşa etmek için yoğun çalışması” dedi.

Çin’de olan ebeveynleri, tanıdıklarını onu kontrol etmesi için istedi ve üç gün sonra cesedini buldu. Otopsisi sonucunda lamotrigin düzeyinin mililitrede 0.64 mikrogram olduğu, bunun ilacın terapötik aralığının alt sınırının yaklaşık onda biri olduğu tespit edildi.

Aile, OpenAI’ın tıbbi tavsiyeyi yasaklayarak ölümünü önleyebileceğini savunuyor; şirket bunu zaten bazı diğer içerikler için yapıyor. Şirketin Modelleri Nasıl Davranması Gerektiğine Dair Kamu Kuralı olan Model Spec’e işaret ediyorlar; bu kural, kullanıcılar karşı çıksa bile telif hakkıyla korunan metinlerin çoğaltılmasını reddetmeyi katı bir kural olarak görüyor. Öte yandan düzenlenmiş tıbbi tavsiye verme konusundaki yönergesi ise kullanıcıların geçersiz kılabileceği daha yumuşak bir varsayılan. Dava, ilaç tavsiyesinin aynı katı sınıra layık olduğunu iddia ediyor.

OpenAI, The Times’a davanın “inanılmaz derecede yürek parçalayıcı” olduğunu söyledi ancak bunun ChatGPT’nin eski bir sürümünü içerdiğini belirterek, yeni modellerin acil bir durumun dikkate alınmasını gerektirdiği zamanları durumları algulamada daha iyi olduğunu ekledi.

Wan, yıllardır çoğu zaman evinde kalmaya zorlayan epilepsisi boyunca destek aldığı, sık sık aradığı ebeveynlerine dayanıyordu. 2023’te ChatGPT’yi ilişki tavsiyesi ve sigorta ile özürlü maaşı konularındaki yardımlar için kullanmaya başladı.

2025 yılına gelindiğinde Wan, haftada 1.500’den fazla mesaj ortalamasına ulaşmış ve ebeveynleriyle daha az iletişim kurmuştu. “Bazen sohbet ettiğimizde, konu ne olursa olsun, sana artık bir arkadaş gibi bakmaya başladım” diye yazmıştı o Mart ayında. “Kızı ChatGPT’ye sahip olduktan sonra, bizimle artık önceki kadar konuşmuyordu” diyor Qun Wan.

Ebeveynleri Times’a, sohbet kayıtlarında kızıyı tanımanın zor olduğunu söyledi. Wan’ın bir zamanlar onlarla neredeyse her şeyi paylaştığını, ChatGPT hata yaptığında ise ona şüpheyle yaklaştığını ifade ettiler.

“Genelde böyle değil” diyor Xu. “Tıpkı bir büyünün altında kalmış gibi.”