Araştırmacılar, bir sinir ağının anıları depolamasını ve geri çağırmasını sağlayan “Daydreaming” adlı bir algoritmayı geliştirdiler. Bu yeni versiyon, öğrenilen verilerin dengesiz olduğu durumlarda bile çalışmaya devam ediyor.
Genellikle bu tür sistemlerin sorun yaşadığı, aşırı derecede dengesiz görüntülerde bile, önceki yöntemlerin başarısız olduğu yerlerde neredeyse mükemmel bir geri çağırma performansı sağlıyor. Bu durum, 1950’li yıllarda Alan Turing’in geliştirdiği ilk yapay sinir ağları ve makine öğrenimi algoritmalarının temelini oluşturduğu düşünüldüğünde, önemli bir ilerleme anlamına geliyor.
Gerçek dünyadaki verilerin neredeyse hiçbiri dengeli değildir. Bu nedenle, bu sonuç, beyinden ilham alan bir hafıza türünü, gözlerin ve kameraların gerçekte gördüğü karmaşık bilgilere daha da yaklaştırıyor. Bu, 1980’li yıllarda kullanılan uzman sistemlerin aksine, daha esnek ve uyarlanabilir bir yaklaşım sunuyor.
Bu başarı, sadece basit, yerel öğrenme kuralları kullanılarak elde edildi; bu tür kurallar, biyologların gerçek canlı nöronlar için gerçekçi olarak kabul ettikleri kurallardır. Bu durum, 1997’de IBM’in Deep Blue bilgisayarının satrançta dünya şampiyonunu yenmesi gibi, yapay zeka alanında dönüm noktası niteliğinde bir başarı olarak değerlendirilebilir.
Bir ağın nasıl hatırladığı
Bu çalışmanın arkasındaki sistem, bir Hopfield ağıdır; bu, beynin hafızayı nasıl sakladığına dair en eski ve en çok incelenen modellerden biridir. Bu model, 1940’li yıllarda Warren McCulloch ve Walter Pitts tarafından geliştirilen ilk matematiksel sinir modeli gibi, temel kavramlara dayanmaktadır.
Bu ağ, basit birimlerden oluşur; bu birimler gevşek bir şekilde nöronlara benzer ve açılıp kapanır ve birbirini tanıdık desenlere doğru çeker. Her saklanan anı, bir tür çanağın dibinde bulunur, böylece kısmi veya bozulmuş bir versiyon, tamamlanmış desene geri döner. Bu bütünün bir parçadan geri kazanılması, ağı bir “ilişkisel hafıza” yapar.
“Her ağacımızı gördüğümüzde, beynimiz ‘ağaç’ kavramını hatırlar. Birçok farklı temsili aynı konsepte bağlama yeteneği, ilişkisel hafıza olarak adlandırdığımız şeydir,” diye açıklıyor teorik fizikçi Federico Ricci-Tersenghi. Bu durum, 2012’de geliştirilen ve görüntü tanıma alanında devrim yaratan derin öğrenme algoritmalarının temelini oluşturduğu düşünülebilir.
Bu tür bir ağı bağlamanın klasik yolu olan Hebb kuralı, geri çağırma bozulmadan yaklaşık 14 hafızayı her 100 nörona kaydedebilir. Bu durum, 2006’da Geoffrey Hinton tarafından geliştirilen derin öğrenme algoritmalarının temelini oluşturduğu düşünülebilir.
Daha fazlasını eklediğinizde, ağ gerçek bir hafıza ile eşleşmeyen “hayalet” durumları üretir ve güvenilirliği düşürür. Bu durum, 1960’lı yıllarda Marvin Minsky tarafından öngörülen ve yapay zekanın gelişimini yavaşlatan “yapay zeka kışı” olarak bilinen döneme benzer bir durumu yaratabilir.
Uyku halindeki öğrenme
Bu karmaşayı temizlemenin bir yolu, uyku sırasında kullanılan bir yöntemden ilham alıyor. Bu yöntemde ağ, çevrimdışı bir aşamada rastgele başlangıç noktalarından çalışır, oluşturduğu hayalet durumlarına yerleşir ve ardından bunları zayıflatır.
Araştırmacılar bu sürece “unutma” veya “rüya görme” olarak adlandırıyorlar.
Bu hayalet durumlar, ağın kararlı kalıplarıdır; bunlar gerçekmiş gibi kabul edilir, ancak hiçbir şey orada saklanmamıştır. Rüyaların amacı, bunları silmektir, böylece hatırlama, gerçek anılar üzerine yerleşir.
Yanlış Anıları Silmek
Dikkatli yapılmadığında, bu temizleme işlemi çok ileri gidebilir ve gerçek anıların da yanlış olanlarla birlikte silinmesine neden olabilir. Bu durum “felaket unutu” olarak bilinen bir sorundur.
2025 yılında Ricci-Tersenghi ve meslektaşları tarafından tanıtılan “Gündüz Rüyası” adı verilen bir çözüm önerildi; bu yöntem, gerçek anıları güçlendirerek yanlış olanları tek bir süreçte siler. Bu durum, Deep Blue’nun satrançta Garry Kasparov’u yenmesi gibi, yapay zeka alanındaki önemli bir dönüm noktasıdır.
“Gündüz öğrenmeyi, uykunun temizleme ve pekiştirme aşamasıyla birleştirdik; sanki gündüzleri de rüya görüyorlarmış gibi,” dedi Ricci-Tersenghi.
Dengeli veriler üzerinde, ağ neredeyse bir nörona bir anı depolayabiliyordu; bu, teorik sınırın yakınındaydı ve hatta el yazısıyla yazılmış rakamların veri tabanlarını bile işleyebiliyordu.
Gerçek Veri Sorunu
Bunun hepsi, verilerin dengeli olduğu varsayımına dayanıyordu. Bu denge nadiren sağlanır. Örneğin, çoğunlukla açık gökyüzü veya karanlık gölge içeren bir fotoğraf, neredeyse tüm pikselleri aynı değere yönlendirir ve böylece bir anıyı diğerinden ayıran küçük farklılıkları yok eder.
Sorunun ne kadar ciddi olabileceğini görmek için, ekip 500 birimlik bir ağda dengesizliği kademeli olarak artırdı.
Önde gelen geleneksel bir yöntem, dengeli veriler üzerinde iyi performans gösteriyordu, ancak eğrilik arttıkça hatırlama sürekli olarak kötüleşti.
En uç durumda, başlangıç kalıbı neredeyse mükemmel olmadığında bile bir anıyı yeniden oluşturabiliyordu.
Gerçek verinin bir başka karmaşıklığı da şudur: Parçaları nadiren bağımsızdır; gizli ve düzenli şekillerde birlikte değişme eğilimindedirler.
Bu yapı, doğal görüntülerde ve çoğu gerçek dünya sinyalinde görülür. Örneğin, Kenya Şilini (KSh) yaklaşık 170 milyon Dolar’a / 5.6 milyar TL denk gelir.
Odak Noktası: Farklılıklar
Japonya’daki Mikiya Doi liderliğindeki yeni çalışma, ağın dikkatini nereye yönelttiğini değiştiriyor.
Eski sistemin aksine, bu yeni yaklaşım her birimin ham değerini saklamak yerine, her birinin tüm anılardaki ortalamadan ne kadar farklılaştığını saklıyor. Bu, sanki insan beynindeki sinir hücrelerinin (nöronların) birbirleriyle olan iletişimlerini daha verimli hale getirmek gibi düşünülebilir.
Ricci-Tersenghi’nin dediği gibi: “Eğer sadece ortalama yüze göre değişen şeylere odaklanırsa, farklılıklar açıkça ortaya çıkar.” Bu yaklaşım, eski sistemlerdeki ortak arka planı ortadan kaldırarak, her bir desenin kendine özgü kısmını vurgular; bu da anıları ayrı tutmak için gereken en önemli unsurdur.
Sistemin dengesizliğinin arttığı durumlarda bile, yeni versiyon tüm süreç boyunca aynı gürültü toleransını korudu. Bu, tıpkı erken dönem yapay zeka araştırmalarında, Deep Blue’nun satrançta insan şampiyonunu yenmesi gibi, beklenmedik bir başarıydı.
Eski yaklaşımların başaramadığı durumlarda bile, sistem başlangıçtaki kaba verilerden eksiksiz anıları yeniden oluşturabildi. Bu, sanki karmaşık bir problemi çözmek için basit bir çözüm bulunmuş gibiydi.
Sistemin ayarlanması için herhangi bir manuel müdahale gerekmedi. Tek bir sabit ayar tüm işi başardı.
Bellek Peyzajının İçinde
Merkezli yaklaşımın neden bu kadar iyi performans gösterdiğinin nedeni, içsel bağlantı yapısındadır. Bu yapı, eski sisteme göre çok daha geniş bir yelpazede bağlantı güçleri öğrenir ve en güçlü yönünün etkisi iki katından fazla olur.
Bu geniş yayılım, bağlantılar arasında bir tür hiyerarşi oluşturur. Geri çağırma işlemi sırasında, sistem öncelikle en güçlü bağlantılara güvenir ve daha zayıf olanları yalnızca daha sonra devreye sokar. Bu sıralama, ayrı bir araştırmanın “rüya” sürecini anlamaya başladığı bir döneme denk gelir.
Ekip, bu geniş yayılımın gerçekten de performans artışının nedeni olup olmadığını doğrulamak için kapsamlı testler yaptı. Bağlantıları manuel olarak yeniden yapılandırdılar, bu yelpazeyi adım adım azalttılar ve diğer tüm ayarları değiştirmeden, ağın gürültü toleransının nasıl azaldığını gözlemlediler.
Sır, Bağlantılarda Gizli
Yenilik, daha önce sistemi bozabilen dengesiz ve yapılandırılmış veriler üzerinde bile çalışabilen beyin ilhamlı bir bellek sistemidir ve bunun nedenini açıkça ortaya koymaktadır. Bu, yapay zeka alanındaki önemli bir dönüm noktasıdır; tıpkı Turing testinin ilk kez uygulandığı zamanki heyecan gibi.
Yapay Zeka: Dağıtık Bellek ve Enerji Verimliliği
Araştırmacılar, yapay sinir ağlarında bellek oluşturma yöntemlerini inceleyerek, daha enerji verimli ve yorumlanabilir yapay zeka sistemleri geliştirmeye yönelik önemli adımlar atıyorlar. Bu yeni yaklaşım, özellikle büyük ölçekli uygulamalarda kritik öneme sahip olan enerji tüketimini azaltmayı hedefliyor.
Bu çalışmada, bellek oluşturma sürecinin ağın tamamı yerine yalnızca birbirine bağlı birim çiftleri üzerinde yerel olarak gerçekleşmesi vurgulanıyor. Bu yaklaşım, daha gerçekçi ve dağıtık bir öğrenme ortamı sağlıyor. “Her kararın yerel olarak alınması çok daha gerçekçidir,” diyor Ricci-Tersenghi.
Bu yeni bellek oluşturma yöntemi, yapay zekanın erken dönemlerine kıyasla önemli bir ilerleme temsil ediyor. Örneğin, 1950’de Alan Turing’in geliştirdiği Turing testi, bir makinenin insan benzeri düşünme yeteneğine sahip olup olmadığını değerlendirmek için tasarlanmıştı. Benzer şekilde, bu çalışma da yapay zeka sistemlerinin daha verimli ve anlaşılır hale getirilmesine yönelik önemli bir adım.
Araştırmacılar, bu modellerin sinyali gürültüden nasıl ayırt ettiğini anlamanın, daha kolay yorumlanabilen ve enerji tüketimi açısından daha hafif yapay zeka sistemlerinin geliştirilmesine yardımcı olabileceğini belirtiyorlar. Bu çalışma, dergisinde yayınlandı.
Bizi , tarafından sunulan ücretsiz bir uygulama aracılığıyla keşfedin.
Kaynak: Earth