Φωτεινό Kaynaklı Yapay Zeka Modelleri Çocuk İstismar Materyali Üretiminde Sömürülüyor.

Φωτεινό ağırlıklı yapay zeka modellerinin yaygınlaşması, bu teknolojilerin çocuk cinsel istismar materyali (CSAM) üretmek için kullanılmasında büyük bir artışa yol açtı. Bloomberg’in yeni araştırmalarına göre, kısmen ya da tamamen açık kaynaklı olan modeller internet üzerinden rahatsız edici CSAM içeriğinin ciddi biçimde yayılmasına neden oldu.

Bloomberg bu konuyu detaylı bir haberle açıklıyor

Suçluların tespit edilmesi zorlaşabiliyor çünkü birçok yapay zeka modeli mevcut CSAM içerikleriyle eğitilebiliyor ve internete bağlanmadan çok sayıda türev üretibiliyor. Bu sayede uzmanların ve kolluk kuvvetlerinin fark edip raporlaması engelleniyor.

Alarm verici bu trend, karanlık ağ üzerinde yüz binlerce üyeye ulaşabilen topluluklara dönüştü. Bloomberg’in aktardığına göre açık kaynaklı modellerin hızlı yükselişi özellikle Çin’den çıkan modellerle birlikte ulusal güvenlik endişelerini öne sürerek önde gelen yapay zeka şirketlerinin yöneticilerini bu modellere sınırlama getirme tartışmasına sürükledi.

Ancak “jailbreaking” olarak adlandırılan yöntemlerle güvenlik önlemleri atlatıldıktan sonra trivialeşen CSAM üretimi, çok daha acil ve göz alıcı bir soruna dönüşüyor.

“There is almost no way to have oversight once you have downloaded a model locally and you’re running it on your private system,” diyor AI çocuk güvenliği uzmanı Rebecca Portnoff Bloomberg’e alıntılanarak. “Bu suçlulara bir güvenlik algısı veriyor.”

Portnoff’a göre CSAM için kullanılan 500’den fazla açık kaynaklı yapay zeka modeli bulunuyor; bu sayı iki yıl önce ondan azdı. Buna karşılık, Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi’ye (NCMEC) bildirilen AI ile üretilen CSAM vakaları geçen yıl 1,5 milyon barajını aştı; 2024’teki 67.000’den büyük bir artış.

Φωτεινό kaynaklı modeller sömürülmeye devam ederken, yapay zeka şirketleri bile kapalı kaynaklı alternatifleriyle bu sorunu anlamlı biçimde çözemiyor. Yıllardır bu trende son vereceğine dair söz veren Elon Musk’ın kurduğu XAI-SpaceXAI-SpaceXSI şirketi üzerinden üretilen CSAM yine de sürmekte.

Şirkete karşı önerilen grup davası bir erkeğin, Musk’ın Grok sohbet robotunu kullanarak üvey kızı hakkında yaklaşık 7.000 cinsel açıdan açık resim üretmek için kullandığını iddia ediyor.

Uzmanlar Musk’ın X sosyal medya platformunun çocukların cinselleştirilmiş resimleriyle dolduğunu buldu.

Yapay zeka yarışı ısındıkça, çocuk güvenlik savunucuları Silicon Valley’in uyguladığı “hızlı hareket et ve her şeyi kır” yaklaşımının işleri daha da kötüleştirebileceği konusunda endişelerini artırıyor.