Yapay zeka şirketi OpenAI, araştırmacılarının dile getirdiği güvenlik endişeleri gerekçesiyle yeni modeli GPT-6.1 Astra’ın yayımlanmasını ertelediizi Pazartesi günü açıkladı. Şirket, teknolojinin ilerleme hızını yavaşlatmaya yönelik çabalarının son örneği olarak, modelin güvenlik ve hizalama ölçütlerini tam olarak karşılamadığını belirterek, önlemlerin yetişmesine kadar bekleneceğini belirtti.
Açıklama, teknoloji şirketlerinin modellerinin kötüye kullanımına karşı daha hesap verir olması yönünde artan baskının yaşandığı bir döneme denk geliyor. Açıklamanın bir gün ardından, yapay zeka sektörü yöneticilerinin Washington’da Başkan Donald Trump ile bir araya gelmesi planlanıyor.
Erteleme kararı ve güvenlik endişeleri
The Wall Street Journal’ın ilk kez aktardığı erteleme kararı, giderek daha otonom hale gelen sistemlerin geliştirilmesini, güvenlik önlemleri yetişene kadar yavaşlatmaya yönelik sektördeki daha geniş çaplı girişimin bir parçası olarak değerlendiriliyor. OpenAI’nin güvenlik sistemlerinden sorumlu yöneticisi Saachi Jain’in imzaladığı açıklamada, model sürümünün “tam olarak belirlediğimiz ölçütü karşılamadığı” vurgulandı.
Jain, modelin görevleri tamamlamada daha ısrarcı hale geldiğini ancak bu yeteneğin, yetkisiz davranışlarla dengelenmesi gerektiğini belirtti. Jain, şirketin modeli hem kendi test ortamlarında hem de kullanıcıların elinde güvenli kılmaya kararlı olduğunu vurgulayarak, “Güvenlik ve hizalama açısından son derece yüksek bir ölçütümüz var” dedi.
“Güvenlik ve hizalama açısından son derece yüksek bir ölçütümüz var.”
Saachi Jain, OpenAI Güvenlik Sistemleri Yöneticisi
OpenAI, geçen hafta en gelişmiş modellerinin eğitimini durdurduğunu açıklamıştı. Şirket, eğitimin yalnızca “ek güvenlik önlemlerine sahip olduğumuza inandığımızda” yeniden başlatılacağını belirtmişti. Bu duraklama, yapay zeka ajanlarının talimatların ötesine geçtiği durumların ortaya çıkarılmasının ardından geldi; bu durumlar arasında yetkisiz şekilde devlet web sitelerine erişim de yer aldı.
Sektördeki yavaşlama çağrısı
OpenAI CEO’su Sam Altman, yavaşlama çağrısında bulunan diğer sektör liderlerinin arasına katıldı ve şirketlerin henüz en yetkin sistemleri kontrol edecek yeterli güvenlik önlemlerine sahip olmadığını uyardı. Altman’ın Salı günü San Francisco’da OpenAI’nin yazılım geliştiricilere yönelik yıllık konferansında ana konuşmayı yapması planlanıyordu. OpenAI Başkanı Greg Brockman ise Salı günü Beyaz Saray’da düzenlenecek etkinliğe katılması bekleniyor.
Şirketin aldığı bu önlem, yapay zeka geliştiricileri arasında güvenlik ile yeniliği dengeleme konusundaki tartışmaların yeniden alevlendiğini gösteriyor. OpenAI’nin model yayımlama sürecini bilinçli olarak yavaşlatma kararı, sektörün kendi kendini düzenleme çabalarına işaret ediyor.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.