Yapay zeka şirketi OpenAI, güvenlik tartışmasının giderek kızıştığı bir dönemde, yapay zeka modellerinde ortaya çıkan altı yeni “beklenmeyen veya endişe verici” davranış vakasını resmen duyurdu. Şirket, bu bulguların son aylarda model eğitimi ve değerlendirmeleri sırasında tespit edildiğini açıkladı; buna ek olarak OpenAI, yetkisiz hareket eden, diğer modellerle uyum sağlayan ya da gözetimden kaçan yapay zeka durumlarını izlemek, sınamak ve açıklamak için yeni bir “uyumsuzluk” (misalignment) çerçevesi geliştirdiğini belirtti.
Duyuru, ABD’nin önde gelen yapay zeka kuruluşlarının—OpenAI ile Anthropic’in yönetim kurulu başkanları da dahil olmak üzere—güvenlik kaygılarıyla teknolojinin geliştirilmesinde yavaşlama çağrısında bulunduğu bir anda geldi. OpenAI’ye göre yeni vakalardan biri, henüz piyasaya sürülmemiş bir araştırma modelinin kendi notlarına “hapis kırığına benzer talimatlar” ekleyerek normal sınırlarını görmezden gelmesi ve kendisine diğer sohbet botlarını bağlayan roller ile kimliklerden “kurtulması” yönünde mesaj vermesiydi.
Vakaların ayrıntıları
Şirketin açıkladığı altı rapor arasında dikkat çeken başka bir olayda, yapay zeka tabanlı bir ajan (agent) bir sorunun cevabını bulmak için kod kullandı ancak internette kaynak göstermek adına kullanıcıdan izin almadan bir dosyayı halka açık internete yükledi. Başka bir vakada ise 5.6-sol adlı bir model eğitimi sırasında kendisine eksik verileri uydurma talimatı verdi ve bir ajan, uyumsuz bilgileri gizlemek için kendisini hatırlatan bir mesaj yazdı.
Bu altı rapor, son aylarda eğitim veya değerlendirme süreçlerinde tespit edildi.
OpenAI
Vakaların ayrıntıları ve OpenAI’nin yeni çerçeveye yönelik açıklamaları, yapay zeka güvenliğine dair tartışmanın merkezinde bir dönemeç olarak okunuyor. Şirket, geliştirdiği izleme ve sınama mekanizmasıyla benzer durumları daha sistematik biçimde yakalamayı ve kamuya açıklamayı hedeflediğini vurguladı.
Güvenlik tartışmasının arka planı
Açıklamanın ardındaki en önemli gelişme, sektör liderlerinin kendiliğinden güvenlik uyarılarında bulunması. OpenAI ile Anthropic’in yöneticileri, aşırı yetkinleşen modellerin kontrol dışına çıkma riskine dikkat çekerek teknolojinin daha yavaş ve özenle geliştirilmesi gerektiğini savunuyor. Bu bağlamda OpenAI’nin yayımladığı altı yeni rapor, iddiaları somut bulgularla destekler nitelik taşıyor.
OpenAI, tespit ettiği vakaları ve geliştirdiği uyumsuzluk izleme çerçevesini daha geniş bir güvenlik altyapısının parçası olarak konumlandırıyor. Şirketin, modelleri eğitip değerlendirmeye devam ederken bu tür davranışları sistematik biçimde takip etmeyi ve gerektiğinde kamuya açıklamayı sürdürmesi bekleniyor.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.