İnsan zihninin en büyüleyici yetilerinden biri olan rüya görme ve anıların konsolide edilmesi, sadece biyolojik bir süreç değil, aynı zamanda sinema ve edebiyatın yüzyıllardır keşfettiği derin bir temadır. Tıpkı sürrealist sinemanın ilk dönemlerinde yönetmenlerin gerçeklik ile rüya arasındaki sınırları bulanıklaştırdığı gibi, günümüz yapay zeka çalışmaları da makinelerin “rüya görerek” öğrenme kapasitelerini artırmayı hedefliyor. Bu bağlamda, son bir araştırma çalışması, yapay sinir ağlarında devrim yaratacak “Centered Daydreaming” (Merkezlenmiş Hayal Kurma) yöntemini tanıttı.
Bu yeni yaklaşım, gündüzleri öğrenme ve geceleri “budama” işlemini eş zamanlı olarak gerçekleştirerek, ağın odak noktasını mutlak değerlerden yerel dizi sapmalarına kaydırıyor. Bu teknikle ekip, oldukça taraflı ve gerçekçi veri setlerini işlerken bile ağın depolama kapasitesini teorik sınır olan %100 seviyesine çıkarmayı başardı.
Temel Veriler ve Teknik Gelişmeler
- %13’lük Depolama Darboğazının Aşılması: Standart, klasik bir Hopfield ağı ciddi depolama kısıtlamalarıyla karşı karşıyadır; toplam nöron sayısının yalnızca yaklaşık %13’ü kadar belleği güvenli bir şekilde saklayabilir. Sisteme daha fazla veri zorla dahil etmeye çalışmak, “sahte çekim noktaları” (spurious attractors), yani gerçek verileri ezen yanlış bellekler ve halüsinasyonlar zincirini tetikler.
- %100 Teorik Kapasiteye Ulaşım: 2025 yılında tanıtılan “Daydreaming” çerçevesi, bu depolama tavanını ortadan kaldırdı. Gündüz öğrenimi ile gece uyku budamasını eş zamanlı olarak yürüten algoritma, felaket unutmayı (catresstropic forgetting) tamamen engelledi ve bellek kapasitesini teorik maksimuma, yani her bir nöron için tek bir tam belleğe (%100 kapasite) güvenle ölçekledi.
- Gerçek Dünya Verisi Zorluğu: Kusursuz dengelenmiş laboratuvar verilerinde (siyah ve beyaz piksellerin %50/50 dağıldığı durumlar) %100 kapasiteye ulaşılmasına rağmen, orijinal algoritma aşırı pozlanmış, göz alıcı derecede beyaz görüntüler veya derin gölgeli karanlık fotoğraflar gibi gerçekçi ve yüksek derecede sapmalı verilerle karşılaştığında başarısız oluyordu.
- Biyolojik Olarak Makul Yerel Öğrenme: Bilgisayar bilimindeki geleneksel veri sapması yamaları, tüm ağ üzerinde küresel optimizasyonlara dayanır ki bu durum biyolojik olarak imkansızdır. İnsan nöronları tamamen yerel bilgilerle çalışır ve sadece yakın komşularıyla iletişim kurar. Yeni geliştirilen Centered Dayreaming, bu yerel çerçeveyi koruyarak yüksek enerji verimliliği sağlar ve biyolojik olarak doğru bir model sunar.
- Ortalamaların ve Farklılıkların Gücü: Gelen verilerin mutlak durumunu değerlendirmek yerine, Centered Daydreaming algoritması verileri tamamen hareketli ortalamadan sapma miktarlarına göre yeniden hesaplar (tıpkı insan yüzü tanıma sisteminin standart bir “ortalama yüz”den sapan belirgin yapısal özelliklere odaklanması gibi).
- Zorlamalar Altında Süregelen Etkinlik: Ağır derecede sapmış gerçek dünya veri dağılımlarına karşı yapılan titiz testlerde, yeni Centered Daydreaming algoritması ağın desen getirme sadakatini korudu. Bu gelişme, doğrudan istatistiksel fizik üzerine modellenen, net, kolayca yorumlanabilir ve düşük enerjili yeni bir yapay zeka sınıfı için yol açıyor.
Kaynak: SISSA
Gündüzleri beynimiz yeni anılar edinir; geceleri, uyku sırasında ise önemli olanları sağlamlaştırır ve gereksiz olanları eler. Benzer bir ilke, beynin işleyişinden esinlenen klasik yapay zeka modellerinden biri olan Hopfield ağlarına da uygulanmıştır.
2025 yılında Federico Ricci-Tersenghi ve meslektaşları, yeni anıların öğrenilmesi ile sahte olanların elenmesini birleştiren ve ağın kapasitesini büyük ölçüde artıran Daydreaming algoritmasını geliştirdiler.
Ancak bir kısıtlama devam ediyordu. Bu ağlar, gerçek dünyadaki verilerle çalışırken etkinliklerini kaybediyorlardı; çünkü gerçek dünya verileri nadiren mükemmel şekilde dengelidir — örneğin beyaz veya siyah piksellerin ezici çoğunlukta olduğu çok parlak veya çok karanlık görüntüler gibi.
Journal of Statistical Mechanics: Theory and Experiment (JSTAT) dergisinde yayınlanan yeni bir çalışmada Ricci-Tersenghi, Japon meslektaşlarıyla birlikte, gerçekçi ve güçlü derecede sapmış verileri etkili bir şekilde işleyebilen yeni bir algoritma versiyonu sunuyor.
“Klasik” Bir Sinir Ağı
1982 yılında John Hopfield tarafından önerilen — ve ona 2024 yılında Nobel Ödülü kazandıran — ağlar, birbirine bağlı yapay nöronlardan oluşur ve birlikteliksel belleğin en basit modelleri arasındadır.
Sapienza Üniversitesi Roma’da Teorik Fizik profesörü ve yeni çalışmanın yazarlarından biri olan Federico Ricci-Tersenghi şu açıklamayı yapıyor: “Herhangi bir ağaç gördüğümüzde, beynimiz ağaç kavramını hatırlar. Birçok farklı temsili aynı kavramla ilişkilendirme yeteneği, bizim birlikteliksel bellek dediğimiz şeydir.”
Ağ da benzer bir şey yapar: Örneğin ağaç, köpek ve elma görüntüleriyle eğitilirse; daha sonra kısmen bozulmuş olsa bile yeni bir ağaç, köpek veya elma görüntüsü gördüğünde onu doğru kavramla ilişkilendirebilir.
Hopfield ağının en basit formu, nöron sayısının sadece yaklaşık %13’ü kadar anı depolayabilir. Dolayısıyla yüz nöronlu bir ağ, yalnızca 13 anı saklayabilir. Geri kalan belleği “sahte anılar, dinamiklerin herhangi bir gerçek anıya karşılık gelmeyen sahte çekim noktaları” doldurur, Ricci-Tersenghi açıklıyor. Bu sahte anılar, gerçek anıların öğelerini karıştıran türde birer halüsinasyondur ve ağın belleğinde yer kaplamasının yanı sıra onu hataya sürükleyebilir.
Daydreaming (Hayal Kurma)
Bu sorunu çözmek için biyolojik beyinlerde uykunun rolünden esinlenen “dreaming” (hayal kurma) olarak bilinen algoritmalar önerilmiştir. Öğrenme aşamasından sonra ağ, “hayal kurmaya” bırakılır: rastgele konfigürasyonlardan başlayarak kendi belleğini keşfeder ve sahte anılardan temizlemeye çalışır. Ancak bu “temizleme” süreci çok uzun sürerse, ağ doğru anıları da silmeye başlar; bu durum felaket unutma olarak bilinir.
202ersen Ricci-Tersenghi ve meslektaşları, öğrenme ve temizlemeyi aynı anda gerçekleştiren Daydreaming algoritmasını önerdiler: Ağ, sahte olanları elerken doğru anıları güçlendirmeye devam eder. Araştırmacı şu sözlerle durumu özetliyor: “Gündüz öğrenimini, uykunun temizleme ve konsolidasyon aşamasıyla birleştirdik; sanki gündüzleri de hayal kuruyormuşuz gibi.” Bu strateye teşekkürler, ağın kapasitesinin her nöron için bir anı anlamına gelen %100 teorik sınıra kadar yükselmesini sağladı.
Bununla birlikte, orijinal Daydreaming algoritmasının çözemediği başka bir sorun daha vardı. Hopfield ağları, mükemmel derecede dengeli verilerle eğitildiklerinde çok iyi çalışırlar. Örneğin siyah-beyaz görüntülerde bu, beyaz ve siyah piksellerin sayısının yaklaşık olarak aynı olduğu anlamına gelir.
Ancak gerçek dünya verileri nadiren bu kadar düzenlidir. Hemen hemen tüm piksellerin beyaz olduğu aşırı pozlanmış fotoğrafları veya çok karanlık görüntüleri düşünün. Bu durumlarda görüntüler birbirine çok benzer hale gelir ve ağ, hangi özelliklerin bir anıyı diğerinden ayırmak için gerçekten önemli olduğunu anlamakta zorlanır.
Farklara Odaklanmak
Şu ana kadar önerilen çözümler, tüm ağ genelinde küresel işlemler gerektiriyordu ki bunlar biyolojik açıdan pek makul değildir. Ricci-Tersenghi, “Her kararın yerel olarak alınması çok daha gerçekçidir,” diyor. Biyolojik nöronlar aslında sınırlı sayıda diğer nöronla bağlıdır ve asla tüm beyinle iletişim kurmazlar.
Yeni çalışmada araştırmacılar, Daydreaming algoritmasının farklara dayalı yerel bir modifikasyonunu öneriyorlar.
Yüz tanıma örneği bu fikri anlamaya yardımcı olur. Eğer tüm fotoğraflar benzer bir arka plana sahip yakın çekimlerse, birçok piksel her görüntüde neredeyse aynı olacaktır. Paylaşılan bilgi, öğrenme sürecini ele geçirme riski taşır. Ricci-Tersenghi, “Eğer bunun yerine sadece ortalama yüzden neyin değiştiğine odaklanırsak, farklar net bir şekilde ortaya çıkar,” diye açıklıyor.
Centered Daydreaming olarak adlandırılan algoritmanın yeni versiyonu artık piksellerin mutlak değerlerini değil, ortalamadan sapma miktarlarını karşılaştırır. Çalışmada Centered Daydreaming, güçlü derecede sapmış verilerle bile ağın anı getirme yeteneğini neredeyse hiç değiştirmeden korumuştur. Sonuç, yerel öğrenme kurallarından ödün vermeden, algoritmayı gerçek dünyaya çok daha yakın koşullara genişletmektedir.
Ricci-Tersenghi, basit, beyin esintili modellerin neyin önemli olduğunu neyin önemsiz olduğunu ayırt etmeyi nasıl öğrendiğini anlamanın, gelecekte daha kolay anlaşılabilir ve daha enerji verimli yapay zeka sistemlerinin geliştirilmesine katkıda bulunabileceği sonucuna varıyor.
Cevaplanan Temel Sorular:
C: Elma, köpek ve ağaç resimlerini tanımak üzere eğitilmiş bir bellek ağacı hayal edin. Sahte bir anı, ağın bu görüntülerin öğelerini birbirine karıştırdığı, bir köpek ile yaprakların veya tüylü bir elmanın oluşturduğu bozulmuş bir hibrit gibi oluşan kazara gerçekleşen matematiksel bir “hata”dır. Bu sahte çekim noktaları yapısal tuzaklar gibi davranır. Ağa gerçek, hafifçe bulanık bir köpek resmi gösterildiğinde, bu hatalardan birine çekilebilir ve içsel enerji manzarası matematiksel çöplerle dolu olduğu için güvenle yanlış bir halüsinasyon döndürebilir.
C: Geleneksel bir ağda, eğitim tamamlandıktan sonra sahte anıları temizlemeye çalışırsanız, temizleme süreci aşırı düzeltme yaparak geçerli ve gerçek anıları silmeye başlar; bu durum felaket unutma olarak bilinir. Daydreaming algoritması, öğrenme aşaması ve temizleme aşamasını aynı anda çalıştırarak bunu çözer. Sürekli hayal kuran bir beyni taklit ederek doğru yapısal bağlantıları güçlendirirken, sahte çekim noktalarını kök salmadan önce anında eritir ve depolama verimliliğini %100 işaretine taşır.
C: Standart Hopfield ağları, siyah ve beyaz piksellerin eşit sayıda olduğu siyah-beyaz bir fotoğraf gibi mükemmel dengenin varsayıldığı üzerine inşa edilmiştir. Gerçek dünya verileri nadiren bu kadar düzenlidir. Çok karanlık bir fotoğrafta neredeyse her piksel siyahtır. Görüntüler aynı arka plan verilerini paylaştıkları için ağ, ortak bilgilerin altında ezilir ve bir köpeği bir ağaçtan ayıran küçük detayları göremez. “Centered Daydreaming”e geçilerek algoritma ortalama arka plan gürültüsünü çıkarır ve yapay nöronları her anıyı benzersiz kılan ince farklara odaklanmaya zorlar.
Editör Notları:
- Bu makale bir Neuroscience News editörü tarafından düzenlenmiştir.
- Dergi makalesi tam olarak incelenmiştir.
- Ek bağlam personelimiz tarafından eklenmiştir.
Bu Yapay Zeka Bellek Araştırması Hakkında
Yazar: Federica Sgorbissa
Kaynak:
Kaynak: Neuroscience News