Hopfield Ağı
Hopfield ağı (veya ilişkisel bellek), bir recurrent neural network (tekrarlayan sinir ağı) veya bir spin glass sistemi olarak tanımlanan ve içerik adreslenebilir bellek işlevi gören bir yapıdır. John Hopfield tarafından adlandırılan bu ağ, her nöronun kendisi hariç diğer tüm nöronlara bağlı olduğu tek katmanlı bir mimariden oluşur.
Sistemin temelinde, bağlantıların çift yönlü ve simetrik olması yatar; yani $i$ numaralı nörondan $j$ numaralı nörona giden bağlantı ağırlığı ile $j$’den $i$’ye giden ağırlık aynıdır. Örüntüler, belirli girişlerin sabitlenmesi ve ağın bir enerji fonksiyonunu minimize ederek yerel enerji minimum durumlarına doğru dinamik olarak evrilmesi yoluyla çağrılır. Bu süreçte örüntülerin öğrenilmesi veya “saklanması” Hebbian öğrenme algoritması ile gerçekleştirilir.
Hopfield ağlarının en belirgin özelliklerinden biri, eksik veya gürültülü girdilerden tam örüntüleri geri kazanabilme yeteneğidir; bu durum sistemi bozulmuş veri setleri karşısında oldukça dayanıklı kılar. Sistemin istatistiksel mekanik, tekrarlayan ağlar ve insan bilişsel psikolojisi ile olan güçlü bağları; fizik, psikoloji, sinirbilim ve makine öğrenmesi teorisi ve pratiği gibi çok çeşitli alanlarda uygulama alanı bulmasını sağlamıştır.
Klasik Hopfield ağları; ikili değerli nöron yapısı ($\pm 1$ veya $0/1$), sınırlı ölçeklenebilirlik ve gradyan tabanlı öğrenme yöntemleriyle uyumsuzluğu nedeniyle modern makine öğrenmesi uygulamalarında nadiren kullanılırlar. Ancak, karmaşık örüntüleri tanıma ve geri çağırma kabiliyetlerinin geliştirilmesi için hiyerarşik yapılarla güçlendirilmiş gelişmiş versiyonları üzerinde çalışmalar devam etmektedir.
Görsel Kaynağı: Wikimedia Commons