## Yapay Zeka Tabanlı Teşhis Sistemlerinde Gizlilik Riski: Yeni Bir Çalışma
Yapay zeka (YZ), özellikle de tıbbi alanda, teşhis süreçlerini iyileştirme potansiyeliyle büyük umutlar vad ediyor. Ancak, yeni bir araştırmaya göre, bu sistemlerin gizlilik açısından taşıdığı riskler daha önce düşünülenden çok daha yüksek olabilir. Bu durum, tıbbi YZ’nin geleceği ve hasta güvenliği için önemli çıkarımlara sahip.
Araştırmacılar, yapay zeka tabanlı teşhis modellerinden bireysel hasta bilgilerinin ne kadar kolay elde edilebileceğini incelediler. Daha önceki çalışmalar, bu tür saldırıların (membership inference attacks – MIA) ortalama riskin altında kaldığını gösteriyordu. Ancak, Münih Teknik Üniversitesi’nden (TUM) doktora adayı Moritz Knolle ve danışmanı Daniel Rückert ile Imperial College London ve Hasso Plattner Enstitüsü’nden (HPI) meslektaşları, bireysel hasta düzeyindeki gizlilik riskini mercek altına aldılar. “Ortalama olarak çalışan bir gizlilik, pek anlam ifade etmez. Ben de düşündüm ki: kendi verilerimi bu tür bir tıbbi YZ modelinin eğitiminde kullanmaya gönüllü olur muyum?” diye soruyor Knolle.
Araştırmacılar, yedi farklı gerçek hayattan alınan tıbbi veri setini kullanarak yapay zeka modellerine yönelik saldırılar gerçekleştirdiler. Bu veri setleri arasında 21.799 elektrokardiyogram ve 377.110 akciğer röntgeni yer alıyordu. Saldırı, temel olarak, YZ modelinin bir veri noktasını gördüğünde, o noktayı tahmin etme olasılığının arttığı prensibine dayanıyor. Araştırmacılar, bu olasılığı, aynı veriyi görmeyen bir modelin ürettiği olasılıkla karşılaştırarak, gizlilik ihlali olup olmadığını tespit ediyorlar.
Sonuçlar, bireysel düzeydeki gizlilik riskinin, ortalama riskten çok daha yüksek olduğunu gösterdi. Ayrıca, araştırmacılar, gizlilik riskinin tüm hasta grupları arasında eşit dağılmadığını da belirlediler. Özellikle, eğitim veri setlerinde az temsil edilen azınlık gruplarından olan hastaların, aşırı gizlilik riski taşıyan grupta daha yoğun olarak yer aldıkları tespit edildi. Knolle, “Eğitim veri setinde az temsil edilen hasta grupları, genellikle en yüksek gizlilik riskini taşıyan gruptadır” diyor.
Bu durum, YZ’nin potansiyel faydalarına rağmen, önemli etik ve pratik sorunlar ortaya koyuyor. Örneğin, bir kişinin İngiltere vatandaşı olduğuna dair bilgi elde etmek nispeten önemsizken, belirli bir kanser tedavisini almış olmanın tespiti, sağlık sigortası primlerini etkileyebilecek hassas bir bilgidir. “Eğitim veri setindeki çeşitlilik ne kadar düşükse, gizlilik riski o kadar yüksek olur” diye belirtiyor Knolle.
Bu riskleri azaltmak için çeşitli yöntemler mevcut. Bunlardan biri de, diferansiyel gizlilik (differential privacy – DP) olarak bilinen bir tekniktir. Bu yöntemde, eğitim verilerine küçük miktarlarda rastgele gürültü eklenerek, YZ modelinin hassas bilgilere erişimi sınırlandırılırken, teşhis doğruluğu korunmaya çalışılır. “Diferansiyel gizlilik, bir veri setindeki herhangi bir bireyin ne kadar gizlilik riskine maruz kalabileceğine dair matematiksel olarak kanıtlanabilir bir üst sınır sağlar” diye açıklıyor Knolle. Ancak, bu tür araçların henüz hastaneler ve klinikler tarafından yaygın olarak kullanılmadığına dikkat çekiyor.
Bu durum, hastaların YZ sistemlerine olan güvenini zedeleyebilir ve nadir hastalıklarla mücadelede kullanılan YZ’nin etkinliğini azaltabilir. Ayrıca, veri çeşitliliğinin yetersiz olduğu durumlarda ortaya çıkan ayrımcılığı da şiddetlendirebilir. Knolle, “Amacımız, tıbbi YZ topluluğunu, YZ modellerini kullanmadan önce risk değerlendirmesi yapmaya ve güvenilir yöntemler kullanmaya teşvik etmektir” diyor.
Moritz Knolle, gelecekteki çalışmalarında, sağlık alanındaki üretken (generative) YZ modellerinin gizlilik risklerini araştırmayı planlıyor. Bu çalışma, tıbbi YZ’nin potansiyel faydalarını maksimize ederken, hasta haklarını ve gizliliğini koruma konusundaki önemli bir adım olarak değerlendirilebilir.
Kaynak: Physicsworld