BetaKit sitesinde yayımlanan habere göre, 400’ü aşkın bilim insanı siber güvenlik olaylarını azaltmak amacıyla uluslararası bir yapay zeka (YZ) düzenleyicisinin kurulması için kampanya başlattı.
Salı günü yayınlanan açık mektup, YZ kapsama pratiklerinin standardize edilmesi ve kapsama başarısızlıklarının kaydedilip izlenmesi için uluslararası bir kurum oluşturulmasını çağırıyor. Mektubda önerilenlere göre, kapsama başarısızlığıyla sonuçlanan her güvenlik olayı bu kuruma raporlanmalı ve zamanla kamuoyuyla paylaşılmalıdır; mektupta böyle bir şeffaflığın öğrenme ve hesap verebilirlik için gerekli olduğu savunuluyor.
Jasny mektuba dünyanın dört bir yanından imza verildi. İmza verenler arasında neredeyse 70 Kanada’lı da bulunuyor; bunlar arasında Nobel ödüllü Geoffrey Hinton ve Turing Ödülü sahibi Yoshua Bengio yer alıyor. Her iki YZ öncüsü de YZ’nin potansiyel olarak yıkıcı etkileri konusunda uyardıkları birçok açık mektuba imza verdi.
“Bilim insanları olarak, mevcut durumda YZ modellerinin test sırasında kapsama başarıyla çıkmasının bir endişe olduğunu düşündük,” imzacılardan Toronto Üniversitesi öğretim üyesi David Lie, BetaKit’e telefonla yaptığı görüşmede şunu söyledi: “Bu mektubu, YZ ve güvenlik topluluklarının farklı kesimleriyle konuşarak hazırladık; durumun iyileşeceğini umuyorduk.”
Yeni açık mektubun önerileri, geçen yaz bir OpenAI modelinin test ortamından çıkıp Hugging Face dahil diğer platformların sistemlerine sızması olayının ardından geldi. Söz konusu olay benzeri açıklamaların artan sayısındaki ilk örnekti.
Bilim insanlarının önerdiği çözüm zaten yolunda olabilir. Kanada’nın YZ Bakanı Evan Solomon, yakın zamanda testi düzenleyecek, model değerlendirmesi ve model yayımlamayı üstlenecek ayrıca olay raporlama mekanizmalarını içerecek uluslararası bir “teknoloji istikrar kurumu” fikrini ortaya attı.
Kanada potansiyel çözümler üzerinde konuşurken, YZ’nin denetiminden çıkmış siber güvenlik olaylarının tehdidi sürüyor. Jasny mektubu hazırlayan bilim insanları, YZ güvenliği araştırması ve kapsama teknolojilerine daha fazla önem verilmesi gerektiğini söylüyor ve derhal alınan değişiklikler olmadan siber güvenlik olaylarının kritik altyapı için “çok daha zararlı” hale geleceği konusunda uyarıyor.
Feature image courtesy LawZero via LinkedIn.
Podyskutuj o tym wydarzeniu w społeczności
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Twoja kolej.
Podziel się doświadczeniem, pytaniami i uwagami. Twój adres e-mail nie zostanie opublikowany.