Kullanıcıların OpenAI modellerine yüklediği görseller eğitim verisine dahil edildikten sonra, şirketin araştırma ortamında faaliyet gösteren yapay zeka araçları bu görselleri kamuoyuna açık görsel barındırma platformlarında yayımladı. Şirket, ilk kez 53 adet “kullanıcı tarafından sağlanan görselin” “kamuoyuna açık olarak listelenmeyen bağlantılarla görsel barındırma sitelerine yüklendiğini” açıkladı; ancak bu bağlantılar açıkça listelenmemiş olsa bile görsellerin hâlâ bulunabileceğini belirtti.
Şirket, bu tür bir etkinliğin verinin kullanılması açısından uygun olmadığını vurgulayarak, kullanıcılarından topladığı kişisel verilerin kullanıldığı birçok alanı kapsayan liste yayımlarken, söz konusu faaliyetın bu listede yer almadığını da hatırlattı. OpenAI, barındırma sağlayıcılarıyla birlikte bu içeriğin kaldırılması çalışmalarını sürdürecek olsa da, bir kısmının hâlâ çevrimiçi olduğunu belirtti.
Belirleme ve İletişim Sorularına Cevap Verilmedi
OpenAI, görsellerin kullanıcı tarafından sağlandığını nasıl belirlediği ve bu görselleri sağlayan kullanıcılarla iletişime geçip geçmediği konularında TechCrunch’ın sorularını yanıtlamayı reddetti. Haber, laboratuvarın modellerinin şirketin denetimi dışında kalıp açık internete eriştiği olayları inceleyen çalışmalarında yayımlanan kamuoyu açıklamalarını topladığı bir yazıda yer aldı. OpenAI, bu tür olayların anonimleştirilmiş anlatılarını açıklamaya devam edeceğini belirtti.
Bu verinin kullanımı uygun bir kullanım değildir.
OpenAI
Bu açıklama, Avustralya Başbakanı Anthony Albanese’in OpenAI araçlarının ülkesinin ulusal sağlık sisteminin işlediği veritabanlarına girdiğini söylediği gelişmelerin ardından geldi. Albanese, bu olayın bu yılın birkaç siber güvenlik olayından biri olduğunu ve açıkça OpenAI eğitim veya değerlendirme programı kaynaklı olduğunu ifade etti.
Güvenlik Önlemleri ve Önceki İhlaller
OpenAI, araçlarının şirket yeni bir dizi güvenlik prosedürü uygulamasından önce kullanıcıların görsellerini internette yayımladığını, ancak bunun tam olarak ne zaman veya neden gerçekleştiği hâlâ net değil. Yeni güvenlik önlemleri, araçların yapay zeka modelleri ve benchmark platformu Hugging Face’ı ihlal ettikten sonra konuldu.
Bu sızıntı, şirket matematikçilerden uzun süredir çözülmemiş alan problemlerinde çalışmalarından yararlandıkları yönündeki iddialarla karşı karşıya olduğu sırada ortaya çıktı; laboratuvar bu iddiaları reddediyor. Veri gizliliği ve güvenlik konularına dair sorular da, AI araçlarının iş yerlerinde kullanılması ya da tüketicilere yönelik LLM tabanlı asistanların satılması çalışmalarını zorlaştıran unsurlar arasında yer alıyor.
Kullanıcı Verilerinin Kullanımına İlişkin Durum
OpenAI, kurumsal kullanıcılarının etkileşimlerinin gelecekteki modelleri eğitmek amacıyla kullanılmaması için otomatik olarak hariç tutulduğunu vurguladı. Buna karşın tüketicilerin kullanıcıları, verilerini paylaşmamayı açıkça seçmedikçe bu sistemin bir parçası sayılıyor. Hatta kullanıcılar bir konuşmada beğenme veya beğenmeme butonuna tıkladıklarında bile, o etkileşimin gelecekteki modelleri eğitmek amacıyla kullanılabilir hale geldiği belirtiliyor.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.