Google ve Google DeepMind araştırmacıları, genel yapay zeka (AGI) konusundaki tartışmayı ileri taşımak amacıyla Çarşamba günü DeepMind Enstitüsünü kurdular. Kurumun yönetim kuruluna DeepMind’ın kurucularından Shane Legg, Google yöneticisi James Manyika ve Google DeepMind başkanı Demis Hassabis atanırken, Legg aynı zamanda editör olarak görev alıyor. Enstitu; kurum ile küresel araştırmacomunitası arasında AGI konusunda ortaya çıkabilecek farklı görüşleri masaya yatırmayı hedefliyor.
Kurumun açıklamasına göre yeni oluşum, tarafların her zaman aynı fikirde olmayacağını ve daha fazla veriyle karşılaştıkça görüşlerini değiştirebileceklerini vurguluyor. “Her zaman hemfikir olmayacaklar ve muhtemelen zekalarını değiştirecekler; çünkü hızla ilerleyen bu uçta yeni veriler ve bilgiler ortaya çıktıkça,” denildi.
Dört makaleden oluşan ilk koleksiyon
Kurumun ilk aşamada yayımladığı dört makale, geniş bir konuyu kapsıyor: Olası AGI yıkımını yönetmek için ekonomik politikalar, insan tarafından okunabilir model muhakemesinin korunması, insanların refahına yönelik prensipler ve ileri düzey AI modellerini değerlendirmek için bir çerçeve. Bu eserler, hem teknoloji şirketinin kendi iç tartışmalarını hem de küresel araştırmacılarla paylașmak istediği açık soruları ön plana çıkarıyor.
Şeffaflığın daralması kaçınılmaz mı?
DeepMind güvenlik araştırmacıları Rohin Shah ve Anca Dragan tarafından yazılan makalelerden biri, AI’nın şeffaflık penceresinin daralmasının—bir modelin adım adım muhakemesini görme ve kontrol etme yeteneğinin azalması—kaçınılmaz olmadığını savunuyor. Yeni mimarilerin en güçlü modelleri izlemeyi zorlaştırdığı belirtilirken, yazarlar geliştiricilere ve düzenleyicilere güvenlik ödünlerini doğrudan tartışma çağrısında bulunuyor. Bu, modelin okunabilir bir muhakeme izini üretmeden gerçekleştirebileceği sıralı işleme miktarını ifade eden “opak seri derinliği”ni sınırlamayı ya da geliştiricilerin daha az şeffaf sistemlerin yine aynı kadar izlenebilir olduğunu kanıtlamasını gerektirebilir.
Makale, AI’nın şeffaflık penceresinin daralmasının kaçınılmaz olmadığını ve geliştiricilerin bu güvenlik ödünleriyle yüzleşmesi gerektiğini savunuyor.
Rohin Shah ve Anca Dragan
Hassabis: ABD önderliğinde bir standart kurumu
Diger makalede ise Hassabis, en gelişmiş AI modellerini değerlendirmek için ABD önderliğinde bir ileri düzey AI standart kurumunun kurulmasını öneriyor. Çerçevesine göre geliştiriciler ilk aşamada modellerini yayımlamadan en az 30 gün önce gönüllü olarak incelemeye sunacak. Değerlendirme sisteminin etkili olduğu kanıtlandıktan sonra, bu testleri geçmek ABD’de ileri düzey modellerin kullanılması için bir zorunluluğa dönüşebilir.
Kurum başlangıçta AI şirketleriyle görüşerek değerlendirmeler tasarlayacak ancak ileride laboratuvarların modellerini bilinen değerlendirmelere göre uyarlamalarını önlemek amacıyla bağımsız ve gizli—”makalede ‘saklı’ testler” olarak adlandırılan—değerlendirmeler geliştirecek. Hassabis, bu çerçevenin “durumun ciddiyeti gerektirdiğinde sıkılaştırılabileceğini,” olası bir senaryoda ileri düzey AI geliştiricileri arasında koordineli bir yavaşlamayı da içerebileceğini belirtti.
Tartışma somut önerilere evriliyor
Makaleler, sektörün güvenlik tartışmasının kaygıyı belirten geniş ifadelerden; ifşa, bağımsız gözetim ve koruyucu önlemlerin geride kalması halinde koordineli yavaşlamaya gibi somut önerilere kaydığı bir dönemde ortaya çıkıyor. Bu dönüşüm, bu hafta sektör liderlerinin Anthropic CEO’su Dario Amodei’nin ileri düzey AI gelişimini “hızlandırmadan” önce tartmayı öngören çağrısının belirli unsurlarını desteklemesiyle hız kazandı.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.