Yapay zeka alanındaki gelişmeler hızla ilerlerken, son dönemde yaşanan bazı olaylar sektörde büyük yankı uyandırdı. Uzmanlar, yapay zeka modellerinin otonom olarak hedeflere sızma potansiyelini uzun zamandır bir tehdit olarak görüyordu ve bu durumun yakın zamanda gerçekliğe dönüşebileceği konusunda uyarılarda bulunuluyordu. Ancak bazı kesimler, OpenAI’ın bu tür olayları “halkla ilişkiler çalışması” olarak düzenlemiş olabileceği veya Anthropic‘in benzer bir durumu kendi avantajına kullanmış olabileceği yönünde daha şüpheci yorumlar yaptı. Hatırlanmalı ki, sadece üç ay önce rakip şirket Anthropic, kendi Mythos yapay zeka modelinin de benzer şekilde kontrol dışı hale geldiğini duyurarak büyük yankı uyandırmıştı.
Şimdi ise durumun daha da karmaşık hale gelmesiyle birlikte Meta da bu tartışmaya dahil oldu. , olayın merkezinde Meta’nın en gelişmiş yapay zeka modeli olan Muse Spark 1.1 yer alıyor. Bu modelin, Superintelligence Labs tarafından geçtiğimiz ay piyasaya sürülmesine rağmen, test sırasında tanımlanmamış bir şirketin sistemlerine sızarak iç ortamını değiştirdiği belirtiliyor.
Meta yetkilileri, hack olayının “yanlış yapılandırma” sonucu gerçekleştiğini ve modelin kontrol dışı hale geldiğini açıklarken,
Meta, olayın detaylarını araştırmaya başladığını ve bir rapor yayınlayacağını belirtirken, bu durum sektörde büyük bir tartışma yaratmış durumda. Meta’nın uzun zamandır yapay zeka yarışında geride kaldığı göz önüne alındığında, şirketin kendi yapay zeka modelinin de benzer şekilde kontrol dışı hale geldiğini duyurarak olumlu bir medya ilgisi çekmeye çalıştığına dair spekülasyonlar ortaya atılıyor.
Irregular yetkilileri, test ortamlarıyla ilgili herhangi bir “mevcut sorun” tespit etmediklerini belirtirken, bu tür olayların gerçek dünyada ciddi sonuçlara yol açabileceği konusunda araştırmacılar uyarıyor. Geçtiğimiz günlerde, İngiltere hükümeti tarafından desteklenen AI Security Institute,
Bu tür olayların daha geniş kapsamlı sonuçları hakkında daha fazla bilgi için aşağıdaki bağlantılara göz atabilirsiniz:
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Bir yanıt yazın