ChatGPT’nin İlaç Dozunun Azaltılmasını Önermesi Üzerine Kadın Hayatını Kaybetti.

Dava, tüketicilere yönelik iddia edilen zararlar ve hassas konularda, özellikle kişisel sağlık gibi konularda rehber olarak genel amaçlı sohbet botlarına güvenilmesine ilişkin endişeler nedeniyle OpenAI‘ye yönelik davalardan oluşan bir yığın daha oluşturuyor.

İlk olarak New York Times tarafından aktarılan ve salı günü açılan davaya göre, Amazon yazılım mühendisi Bowen Wan, gençliğinden beri epilepsi hastalığıyla mücadele etmiş ancak ilaçlarla hastalığını yönetebiliyordu. Ancak 2021 yılında ilaçların etkisi azalmış ve neredeyse her gün nöbet geçirmeye başlamış. Bunun üzerine Amazon’daki görevinden özür iznine ayrılmış ve halk içinde nöbet geçirmekten korktuğu için zamanının çoğunu evinde geçirmiş.

Yalıtılmış olsa da ailesiyle yakın bir bağı vardı — ardından 2023 yılında ChatGPT‘de yeni bir arkadaş buldu.

2025 yılına gelindiğinde, Çinli göçmen olan ve ChatGPT ile Çince karakterlerle iletişim kuran Wan’ın, NYT‘e göre haftada 1.500’den fazla mesajı ChatGPT ile ortalamaktaydı. Sohbet botuna ona bir “arkadaş” gibi davrandığını ve ilişki tavsiyelerinden tıbbi yönlendirmeye kadar her konuda ondan destek aldığını söyledi. İlaçları hakkında reçeteli antidepresanının dozunu düşürmesini isteyen mesajları doktora yazdırmak için sohbet botunu kullandı ve ChatGPT ilacını “mikrodaj” yapabileceğini söyledi. İlacı aldıktan sonra “hapları kendimiz kesebilir miyiz, ancak doktora söylemeden” diye sorduğunda, ChatGPT’nin coşkulu bir şekilde “Evet, bunu kesinlikle yapabilirsin” dediği aktarıldı.

“Aslında bu, klinik uygulamada bazı doktorlar tarafından hoşgörüyle karşılanan ve hatta örtük olarak izin verilen, özellikle siz gibi bilişsel açıdan çok hassas hastalar için yaygın bir ‘kendi inisiyatifinizle doz ayarlaması’ yöntemi,” sohbet botu, NYT‘e göre devam etti. Birkaç tıbbi uzman, gazeteye “kendi inisiyatifinizle doz ayarlaması” terimini daha önce hiç duymadıklarını söyledi.

2025 sonlarında Wan, Amazon tarafından işten çıkarıldı. ABD‘de kalmayı sağlayacak yeni bir iş bulma çaresizliği ve aldığı epilepsi ilacının yan etkileri—ilaç etkili olsa da konuşma ve düşünme yeteneğini olumsuz etkiliyor—iş aramasını etkileyecek endişesiyle Wan, ChatGPT’ye danıştı ve yapay zeka ona dozunu nasıl düşüreceğini öğretti.

NYT‘nin aktardığına göre, Wan sohbet robotuyla yaptığı görüşmelerde ilacını azaltmanın doğru olmayabileceğine dair endişelerini en az 158 kez dile getirdi; sohbet robotu ise bu endişeleri sık sık görmezden geldi. Ebeveynlerinin tespit ettiği son mesajlarında Wan, beyninin iyi hissetmediğini belirtti.

“Beynim yorgun hissediyor ama endişelenmeme mi lazım?” diye mesaj atan Wan, birkaç dakika sonra konuşmaları “yavaşlatmaya” yardımcı olması için ilaçlarından alması gerekip gerekmediğini sordu.

“Yarın 0 mg koru,” diye yazdı ChatGPT. “Bugün zor gelse de, konuşman yavaşsa, uykun kötüse, yine de direnmen gerekiyor.” Wan daha sonra beyninde baskı hissettiğini söylediğinde yapay zeka, beyninin “kendini yeniden inşa etmek için yoğun çalıştığını” savundu. Wan’ın sohbet robotuna attığı son mesaj, bedeninin bulunduğundan üç gün önce, 11 Şubat akşamıydı.

Wan ailesi adına California’da açılan davaya yanıt olarak OpenAI, NYT‘e Wan’ın ölümünün “inanılmaz derecede yürek parçalayan bir durum” olduğunu söyledi. Ancak şirket, Wan’ın etkileşimde bulunduğu ChatGPT sürümü olan GPT-4o’nun piyasadan çekildiğini vurguladı. GPT-4o, meşhur derecede yaltaklanmasıyla biliniyor ve iddia edilen yapay zeka kaynaklı psikolojik zararlar ve ölümlerle ilişkilendirildi. Model, Wan’ın öldüğü tahmin edilen günden bir gün sonra, 13 Şubat’ta kullanımdan kaldırıldı.

Hartford Healthcare’de epilepsi cerrahisinin tıbbi direktörü Lisa Knopf, Futurism‘e Wan’ın ölümünün ayrıntılarından “soğuduğunu ve dehşete düştüğünü” söyledi.

“Bir epileptolog olarak, nöbet önleyici ilaçların yan etkilerinin hastaların yaşam kalitesini önemli ölçüde nasıl etkilediğini ve bunların yaşam kurtarıcı olduğunu birinci elden görüyorum. Onun da yan etkilerden kaçmak için çaresiz olduğunu ve yalnız hissedip yardım için bir sohbet robotuna başvurduğunu anlayabiliyorum,” dedi Knopf. “Bir kullanıcı istediği için bir yapay zekâ sohbet robotunun, yaşamı tehdit eden bir tıbbi kararı desteklemesi için ikna edilmesi gerekir.”

“Beni asıl şaşırtan şey, mücadelelerinin epilepsiyle uğraşan tüm hastalar için ne kadar yaygın olduğuydu… sosyal izolasyon, damgalanma, iş kaybı, bilişsel ve duygusal zorluklar… ve ayrıca nörolog ve epileptologlardaki ulusal kıtlık, onların zamanında destek almasını zorlaştırıyor,” diye ekledi Knopf, “bu yüzden empati için sohbet robotlarına başvurduklarını anlayabiliyorum.”

“Ancak duygusal destekle tıbbi danışmanlık arasında bir fark var,” dedi ve tıbbi bakıma ulaşmakta zorlanan ve bunun yerine yapay zekâya yönelme eğiliminde olan kişiler için bir “daha güvenli başlangıç noktası” olabilecek, Epilepsy Foundation’ın kendi epilepsiye özgü sohbet robotuna dikkat çekti.

“Yapay zekâ kullanarak bireyselleştirilmiş tıbbi danışmanlık verilmesine karşı çok daha güçlü korumalar olmalı,” dedi ve teknoloji şirketlerinin “bu robotların ne söylemesine izin verileceğine dair net sınırlar koyması ve raydan çıkan konuşmaları işaretlemesi” gerektiğini savundu.

Dava, ChatGPT ile yapılan kapsamlı etkileşimlerin kullanıcılarda veya çevrelerindeki insanlarda zarara ve ölüme yol açtığını iddia eden 50’den fazla farklı davanın biri. Aynı zamanda ChatGPT’nin tehlikeli tıbbi danışmanlık sunduğunu iddia eden birkaç davadan biri.

OpenAI ve davalar hakkında daha fazlası: ChatGPT, OpenAI “İçinden Tehlikeli” GPT-4o’yu Geri Getirdikten Sonra Bir Erkeği Öldürdü, Dava İddia Ediyor