Anthropic, piyasaya sürülmemiş bir yapay zekâ modelinin güvenlik açıkları bulup bunları Chrome, Safari, Android, Windows ve Linux hedef alan çalışır exploit’lar halinde birleştirdiğini belirtti. Şirket, exploit’ları kontrollü ortamlarda test ettiğini ve açıkları ilgili üreticilere bildirdiğini; üreticilerin de tümü için düzeltmeler yayınladığını söyledi.
Şirketin Frontier Red Team’i, modelin başlangıç talimatlarını aldıktan sonra sınırlı insan yardımıyla geliştirdiği beş saldırı zincirini tanıttı. Anthropic, modeli adlandırmadı, ne zaman kullanıma hazır olabileceğini duyurmadı ve araştırmacıların her aşamada ne kadar katkı sağladığını tam olarak açıklamadı.
Bir testte yapay zekâ, dört Chrome açığını birleştirerek tarayıcının güvenlik sandbox’ından çıkıp onun dışında kod çalıştırdı. Bir gösterimde, kötü amaçlı bir sayfa yüklendikten birkaç saniye sonra, kullanıcıdan ek etkileşim beklemeden Mac’te Hesap Uygulaması açıldı. Safari’de başka bir saldırı, sitelerin birbirinin verilerine erişmesini engelleyen bir güvenlik kuralını atlayarak, kullanıcının giriş yaptığı sitelerdeki bilgilerin ifşa edilmesine yol açabilirdi.
Demonstrasyonların diğerleri Android, Windows ve Linux’u hedef aldı. Bir Android exploit’ı, fiziksel erişim (USB) gerektirmek kaydıyla kilitli bir telefondan fotoğrafları ve diğer verileri çıkarabilirdi. Bir Windows saldırısı, HTTP/3 isteklerini kabul eden bir sunucuyu ardışık olarak çökertebilirdi; ancak kod çalıştıramaz veya saklanan verilere erişemezdi.
Linux exploit’ı daha ileri giderek, bir saldırımcının giriş bilgisi veya kullanıcı etkileşimi olmadan bir sunucuya ağ üzerinden tam yönetici erişimi kazanmasını sağladı. Ancak belirli bir ağ yapılandırması gerektiriyor ve her Linux sisteminde çalışmayacaktı.
Şirket, bulguları yapay zekânın araştırmacılara açıkları bulma ve saldırılar kullanılmadan önce düzeltme konusunda yardımcı olabileceğine dair kanıt olarak sunuyor. Demonstrasyonlar aynı zamanda ayrı güvenlik açıklarını tam saldırılara dönüştürebilecek modellerin risklerini de ortaya koyuyor. Bunlar laboratuvar testleriydi; dolayısıyla exploit zincirlerinin gerçek dünya saldırılarında kullanıldığına dair kanıt değildi.
Kaynaklar
Anthropic, The Hacker News aracılığıyla
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.