Araştırmacılar, bir sinir ağının anıları depolamasını ve geri çağırmasını sağlayan “Daydreaming” adlı bir algoritmayı geliştirdiler. Bu yeni versiyon, öğrenilen verilerin dengesiz olduğu durumlarda bile çalışabiliyor.
Genellikle bu tür sistemlerin sorun yaşadığı, aşırı derecede dengesiz görüntülerde bile, önceki yöntemlerin başarısız kaldığı yerlerde neredeyse mükemmel bir geri çağırma performansı sağlıyor. Bu durum, yapay zekanın derin öğrenme alanındaki gelişmelerini akıllara getiriyor; tıpkı 1997’deki Deep Blue’nun satranç şampiyonu Garry Kasparov’u yenmesi gibi, bu da o dönemde yapay zeka alanında büyük bir dönüm noktasıydı.
Gerçek dünyadaki verilerin çoğu dengeli değildir. Bu nedenle, bu gelişme, beyin benzeri bir hafıza türünü, gözlerin ve kameraların aslında algıladığı karmaşık bilgilere daha da yaklaştırıyor. Bu işlem, biyologların gerçek canlı nöronlar için gerçekçi olarak kabul ettiği basit, yerel öğrenme kuralları kullanılarak gerçekleştiriliyor.
Bir ağın nasıl hatırladığı
Bu çalışmanın arkasındaki sistem, bir Hopfield ağıdır; bu, beynin hafızaları nasıl saklayabileceğine dair en eski ve en çok incelenen modellerden biridir. Bu ağ, nöronlara gevşek bir şekilde dayanan basit birimlerden oluşur; bu birimler açılıp kapanır ve birbirini tanıdık kalıplara doğru çeker.
Her saklanan anı, bir tür çanağın dibinde bulunur, böylece kısmi veya bozulmuş bir versiyon, eksik parçadan tamamına geri döner. Bu, bütünün bir parçasından yeniden oluşturulması yeteneği, ağı “ilişkisel hafıza” yapar.
“Her ağacımızı gördüğümüzde, beynimiz ‘ağaç’ kavramını hatırlar. Birçok farklı temsili aynı konsepte bağlama yeteneği, ilişkisel hafıza olarak adlandırılır,” diyor teorik fizikçi Federico Ricci-Tersenghi.
Bu tür bir ağı çalıştırmak için kullanılan klasik yöntem olan Hebb kuralı ile yaklaşık 100 nörona sahip bir ağda sadece yaklaşık 14 anı güvenilir bir şekilde saklamak mümkündür. Daha fazlasını eklemek, gerçek hafızayla eşleşmeyen “hayalet durumların” ortaya çıkmasına neden olur ve bu da geri çağırma güvenilirliğini düşürür.
Uyku sırasında öğrenme
Bu sorunu çözmek için kullanılan bir yöntem, uyku sırasında yapılan benzer bir işlemdir. Bu yöntemde, ağ rastgele başlangıç noktalarından çalışır, oluşan hayalet durumlara yerleşir ve ardından bu durumların etkisini azaltır.
Araştırmacılar bu sürece “unutma” veya “rüya görme” olarak adlandırıyorlar.
Bu hayalet durumlar, ağın kararlı kalıplarıdır; bunlar gerçekmiş gibi kabul edilir, ancak hiçbir şey orada saklanmamıştır. Rüyaların amacı, bunları silmektir, böylece hatırlama, gerçek anılar üzerine yerleşir.
Yanlış Anıları Silmek
Dikkatli yapılmadığında, bu temizleme işlemi çok ileri gidebilir ve gerçek anıların da yanlış olanlarla birlikte silinmesine neden olabilir. Bu durum “felaket unutma” olarak bilinen bir sorundur. 2025 yılında Ricci-Tersenghi ve meslektaşları tarafından tanıtılan “Gündüz Rüyası” adı verilen bir çözüm önerildi. Bu yöntem, gerçek anıları güçlendirerek yanlış olanları tek bir süreçte siler.
“Gün içi öğrenmeyi, uykunun temizleme ve pekiştirme aşamasıyla birleştirdik; sanki gündüzleri de rüya görüyor gibiydik,” dedi Ricci-Tersenghi. Bu yaklaşım, yapay zeka alanındaki önemli bir dönüm noktasına işaret ediyor; tıpkı 1950’de Alan Turing’in “Turing Testi” ile makine zekasının ne anlama geldiği sorusuna getirdiği çığır açıcı cevaba benzer şekilde, bu yeni yöntem de yapay zeka sistemlerinin öğrenme ve hatırlama süreçlerini daha iyi anlamamızı sağlıyor.
Dengeli veriler üzerinde, ağ neredeyse bir nörona bir hafıza depolayabiliyordu; bu, teorik sınırın yakınındaydı. Hatta el yazısıyla yazılmış rakamlardan oluşan veri tabanlarını bile işleyebiliyordu.
Gerçek Veri Sorunları Ortaya Çıkarıyor
Ancak bunun hepsi, verilerin dengeli olduğu varsayımına dayanıyordu. Bu denge nadiren geçerli oluyor. Örneğin, çoğunlukla açık gökyüzü olan veya çoğunlukla karanlık gölgeler içeren bir fotoğraf, neredeyse tüm pikselleri aynı değere yönlendirir ve böylece bir hafızayı diğerinden ayıran küçük farklılıkları boğar.
Bu sorunun ne kadar ciddi olabileceğini görmek için, ekip 500 birimli bir ağda dengesizliği kademeli olarak artırdı. Geleneksel yöntemlerden biri, dengeli veriler üzerinde iyi performans gösteriyordu, ancak eğrilik arttıkça hatırlama kabiliyeti sürekli düştü. En uç durumda, yalnızca başlangıç kalıbı neredeyse mükemmel olduğunda bir hafızayı yeniden oluşturabilmekteydi.
Gerçek verinin bir başka karmaşıklığı da şudur: parçaları nadiren bağımsızdır; genellikle gizli ve düzenli şekillerde birlikte değişir. Bu yapı, doğal görüntülerde ve çoğu gerçek dünya sinyalinde görülür.
Odak Noktası: Farklılıklar
Japonya’daki araştırmacı Mikiya Doi liderliğindeki yeni çalışma, yapay sinir ağının dikkatini farklı noktalara yöneltiyor.
Eski sistemin aksine, bu yeni yaklaşım her birimin ham değerini saklamak yerine, her birinin tüm anılar genelindeki ortalamadan ne kadar saptığını kaydeder. Bu durum, “Eğer sadece ortalama yüze göre değişen şeylere odaklanırsa, farklılıklar belirginleşir,” diyor Ricci-Tersenghi.
Ortak arka planı ortadan kaldırmak, her bir desenin ayırt edici kısmını ortaya çıkarır; bu da anıları birbirinden ayırmak için gereken en önemli özelliktir. Sistemdeki dengesizlik arttıkça, yeni versiyon aynı tolerans seviyesini korurken, eski yaklaşım başarısız olmaya başlıyordu.
Bu durum, Turing testinin ilk yapıldığı yıllara benzer bir dönüm noktasıdır; o zamanlar makinelerin insan zekasına ne kadar yakın olabileceği büyük bir merak konusuydu. Yeni sistem, daha az başlangıç verisiyle bile eksiksiz anıları yeniden oluşturabiliyor ve bu da eski yaklaşımın üstesinden gelmesini sağlıyordu.
Sistemin ayarlanması için herhangi bir manuel müdahale gerektirmiyordu; tek bir sabit ayar tüm işi başarıyla tamamlıyordu. Bu, Deep Blue’nun satrançta dünya şampiyonunu yenmesi gibi, yapay zeka alanında önemli bir ilerlemeyi temsil ediyor.
Bellek Yapısının İçinde
Merkezli yaklaşımın bu kadar iyi sonuç vermesinin nedeni, içsel bağlantı yapısındaki farklılıklardır. Bu sistem, eski yaklaşıma göre çok daha geniş bir yelpazede bağlantılar öğrenir ve en güçlü yönünün etkisi iki katından fazla olur.
Bu geniş etki alanı, bağlantıların bir tür hiyerarşisini oluşturur. Bellek geri çağırma işlemi sırasında, sistem önce en güçlü bağlantılara odaklanır ve daha sonra zayıf olanları devreye sokar. Bu sıralama, yapay zekanın “rüya görme” sürecini inceleyen ayrı bir araştırmayla da paraleldir.
Ekip, bu geniş etki alanının gerçekten de performansı etkileyip etkilemediğini doğrulamak için kapsamlı testler yaptı. Bağlantıları manuel olarak yeniden düzenlediler, etki alanı yelpazesini adım adım azalttılar ve her seferinde sistemin gürültüye karşı toleransının nasıl düştüğünü gözlemlediler.
Sır, Bağlantılarda Gizli
Yenilik, daha önce sistemi bozabilen dengesiz ve yapılandırılmış veriler üzerinde bile çalışabilen, beyinden ilham alan bir bellek sistemidir ve bunun arkasındaki açık bir neden vardır. Bu, yapay zeka araştırmalarında önemli bir ilerlemeyi temsil ediyor.
Yapay Sinir Ağlarında Enerji Verimliliği ve Yapay Zeka Gelişimi
Bu yapay sinir ağı modelinin temel özelliği, karmaşık desenleri değil, bağlantılarının geniş dağılımı sayesinde her bellek biriminin etrafında oluşan esnek alanlardır. Bu sayede sistem daha toleranslı hale geliyor.
Öğrenme süreci tamamen yereldir ve yalnızca birbirine bağlı birim çiftlerini etkiler, tüm ağı değil. Ricci-Tersenghi’ye göre, “Her kararın yerel olarak alınması çok daha gerçekçi bir yaklaşımdır.” Bu durum, yapay zeka alanındaki gelişmelerin erken dönemlerine, örneğin Deep Blue adlı bilgisayarın satrançta dünya şampiyonunu yenmesi gibi dönüm noktalarına benziyor. O zamanlar da, karmaşık problemleri çözmek için büyük hesaplama gücüne ihtiyaç duyuluyordu, ancak günümüzde daha verimli ve yerel öğrenme yöntemleri sayesinde bu gereklilik azalıyor.
Araştırmacılar, bu modellerin sinyali gürültüden nasıl ayırt ettiğini anlamanın, daha kolay yorumlanabilen ve daha az enerji tüketen yapay zeka sistemlerinin geliştirilmesine yardımcı olabileceğini belirtiyorlar. Bu çalışma, yapay zekanın geleceği için önemli bir adım olabilir.
Çalışma , adlı dergide yayınlandı. Daha fazla bilgi için , adlı ücretsiz uygulamayı indirebilirsiniz. Uygulama, ve tarafından desteklenmektedir.
Kaynak: Earth