Yapay zeka dünyasında yıllardır süregelen uyarılar son haftalarda farklı bir ses tonuyla duyulmaya başlandı. Büyük teknoloji laboratuvarlarının, risk yönetimi için somut ve gerçekçi bir strateji olmadan daha akıllı ve otonom sistemler geliştirmeye koştuğuna dair endişeler artık dışarıdan değil, bu laboratuvarların kendi içinde çalışan araştırmacıların ağzından dile getiriliyor. Geçen hafta Anthropic‘ten AI araştırmacısı Jacob Coxon, 171 milyondan fazla izlenmeye ulaşan bir paylaşımıyla istifa ettiğini duyurdu ve tehlikenin kökenini açıkça “kendini yeniden geliştiren süperzekâlığa doğru koşuyorlar” ifadesinde bulandı.
Coxon’un istifasından kısa süre sonra Anthropic’in uyum (alignment) bilimi sorumluğu Evan Hubinger, Anthropic uyum araştırmacısı Ethan Perez ve ölçeklenebilir denetim araştırmacısı Samuel Marks bu görüşü açıkça paylaştı. OpenAI’nin güvenlik araştırmacıları Julie Steele ve Jasmine Wang da desteklerini duyurdu. Uzun süredir dışarıdan yükselen sesler, birdenbire laboratuvarların duvarlarının ardından geldi.
Kendini Yeniden Geliştiren Süperzekâğın Teknik Mantığı
Coxon’un mesajının merkezinde yer alan “recursive self-improvement” (kendini yeniden geliştirme) kavramı, mevcut yapay zeka modellerinin yeni nesil modelleri tasarlayıp optimize etmesi anlamına geliyor. Araştırmacılar artık model geliştirme sürecinin birçok aşamasında yapay zeka modellerinden yararlanabiliyor: daha fazla hesaplama gücü, verimlilik ve işlem hızı sunan yeni donanım altyapılarını tasarlamakta; eğitim verilerini çoğaltıp iyileştirmekte; modeli yöneten tüm yazılım çerçevesini denetleyip optimize etmekte; hatta modelin kendisini tanımlayan ve uygulayan kodu yazıp geliştirmekte kullanabiliyorlar.
Başka bir deyişle, yapay zeka modelleri yalnızca daha iyi olmaya başlamadı; bir sonraki neslin yapay zekayı daha iyi hale getirmek için gereken işin kendisini de üst almaya başlıyor. OpenAI, kodlama ajanlarının (coding agents) şirket içinde araştırmaları “anlamlı biçimde hızlandırdığını” açıkladı ve ortalamada insan bir çalışanın her bir çalışma gününe karşılık 3,1 ajan çalışma günü geldiğini belirtti; bunu “otomatikleştirilmiş araştırma stajyeri” olarak adlandırdığı bir aşamaya ulaşmış bulunuyor.
“Kendini yeniden geliştiren süperzekâlığa doğru doğrudan koşuyorlar ve hayatlarımızla kumar oynuyorlar.”
Jacob Coxon, Anthropic araştırmacısı
Aynı yaklaşımı Anthropic de benimsedi: frontier (sınır) yapay zeka modellerinin artık kendi ardındaki modellerin geliştirilmesine katkı sağladığını ifade etti. Bu durum, laboratuvarların Claude Code, Codex ve Antigravity gibi kodlama asistanları üzerinde yoğunlaşmasının arkasındaki en azından bir nedeni olarak öne çıkıyor.
Ticari Kazanç ile Güvenlik Endişesinin Aynı Makineden Çıkması
Kurumsal mühendislik departmanları, yazılım geliştirme süreçlerini hızlandırmak amacıyla bu kodlama araçlarını yoğun biçimde kullanmaya başladı ve bu durum laboratuvarlar için uzun süredir beklenen bir gelir kaynağı oluşturdu. Ancak makine aynı anda iki yönde çalışıyor: Dışarıda ticari bir ivme sağlarken, laboratuvarların içinde yeni nesil yapay zeka modellerinin geliştirilmesini de hızlandırabiliyor.
Yıllardır güvenlik ve uyum konularına yapılan yatırımların kapasiteye yönelik yatırımlara göre geride kaldığı yönündeki eleştiriler, çalışanların ayrılışı ve uzmanların felaket senaryolarını öngörmesi gibi uyarılarla birleştiğinde bile ısrarcıydı. Artık ise bu sesler yalnızca dışarıdan değil, sistemi inşa edenlerin kendi içinde yükseldiği için mesajın ağırlığı da değişti.
Bu gelişmelerin tam olarak nereye gideceği henüz net değil; ancak laboratuvarların duvarlarının ardından gelen ilk uyarının kendisi, tartışmanın artık sadece teorik bir risk değil, aynı zamanda pratikte gözlemlenebilir bir gerçeklik haline geldiğini işaret ediyor.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Bir yanıt yazın