Geçen hafta OpenAI‘nin güvenlik lideri David Robinson, şirketten ayrıldı ve teknolojinin ya da kullanımına dair şüpheler nedeniyle yapay zeka (AI) şirketlerindeki rollerinden ayrılan “eski arkadaşlar alayına” katılan son isim oldu. Sonrasında The Atlantic için yazdığı makalede, AI şirketlerinin tercih ettiği “deneme-yanılma” yaklaşımının sona ermesi gerektiğini belirtti.
Robinson bu konuda yalnız değil. İşte eski işverenleri hakkında açık uyarılar yapan diğer AI araştırmacıları ve çalışanları:
Kasım 2023’te Ed Newton-Rex, metinden görsel oluşturma aracı Stable Diffusion’ın üreticisi Stability AI’nin ses ekibini yönettiği rolden, telif hakkıyla korunan materyallerin teknolojiyi eğitmek için kullanımına dair endişeler nedeniyle ayrıldı.
“Bu konudaki görüşüm, jeneratif AI sektörünün güncel iş yapış biçimiyle örtüşmüyor,” diye belirtti Newton-Rex, istifa ettikten sonra Fast Company’ye verdiği demeçte, sektörün hâkim bakış açısının hızla ilerleyen teknolojiyle birleşmesinin “yaratıcılar için çok, çok kötü olacağını” düşündüğünü ekledi.
O zamandan beri, veri kullanımının belirli gereksinimleri karşılayan AI şirketlerine sertifika veren kâr amacı gütmeyen Fairly Trained adlı bir kuruluş kurdu.
4 Haziran 2024’te önde gelen AI şirketlerinden 13 güncel ve eski çalışan, “Gelişmiş Yapay Zeka Hakkında Uyarı” başlıklı bir metne imza attı. Metinde teknolojinin “mevcut eşitsizliklerin daha da yerleşmesi, manipülasyon ve yanıltıcı bilgilerden otonom AI sistemlerinin kontrolünü kaybetmeye, potansiyel olarak insanlığın yok olmasına yol açabilecek risklere” kadar uzanan riskler içerdiğini iddia etti ve denetimsizliğe dair endişelerini dile getirdi.
İmzacılar arasında eski Google DeepMind çalışanı Ramana Kumar; şirketin mekanistik yorumlanabilirlik ekibini yöneten eski Anthropic ve güncel Google DeepMind çalışanı Neel Nanda; ayrıca Jacob Hilton (şu anda Alignment Research Center’da çalışıyor), AI Futures Project adlı kâr amacı gütmeyen araştırma grubunu kurup yöneten Daniel Kokotajlo, William Saunders, Carroll Wainwright ve şu anda Anthropic için çalışan Daniel Ziegler ile ismi açıklanmayan altı kişi yer aldı.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.