Derin öğrenme: Deep Learning – MATLAB & Simulink.

Derin Öğrenme: Veriden Doğrudan Bilgiye Giden Yolların Matematiği ve Pratikleri

Sayarbilgi Özel Yazısı | Yapay Zeka Serisi

Giriş

Yapay zekanın en çarpıcı ilerlemelerinin ardındaki omurga olan derin öğrenme, makine öğrenmesinin sinir ağlarına dayalı uzmanlaşmış bir kolu olarak son on yıllarda veri biliminin merkezinde yer aldı. Temel fikri, bilgisayara insanlarda doğal biçimde gerçekleşen işlemleri — nesneleri görerek tanıma, konuşulan sözcüklerden anlam çıkarma, zaman içinde değişen sinyalleri yorumlama gibi görevler — doğrudan öğretilmesini sağlamaktır. Geleneksel yaklaşımda araştırmacıların elle tasarladığı özniteliklerin (features) aksine, derin modeller veriyi kendi iç yapılarından yola çıkarak öztanımlayan öğrenme yeteneğine sahiptir; bu da onları görüntü, metin ve ses dahil olmak üzere çok çeşitli veri tiplerinde üstün doğrulukla sonuçlanmasını mümkün kılar.

Bu yazıda konunun akademik temellerinden mimari mekanizmalarına, başlangıç stratejilerinden sektörel — özellikle klinik tıp alanındaki — uygulamalarına kadar geniş bir perspektif sunulacaktır. Amaç yalnızca kavramların tanıtılması değil, aynı zamanda yöntemin neden etkili olduğu, hangi maliyetlerle geldiği ve geleceğe dair eleştirilerin nasıl formüle edildiğinin tartışılmasından ibarettir.

Tarihsel Arka Plan: Bir Uyanışın Hikayesi

İlk yapay sinir ağı 1958’de teorize edilse de, bu yapılar o dönemde hem yeterli hesaplama gücünden yoksundu hem de eğitilebilmek için gerekli büyük veri setlerinden mahrumdu. Gerçek bir yeniden canlanma iki eşik koşulunun kesişiminde gerçekleşti: güçlü paralel mimarili donanım (özellikle yüksek performanslı ekran kartları) ve etiketli verinin patlayıcı biçimde çoalması. Bu dönüm noktasına işaret eden klasik referanslardan biri olan Rumelhart, Hinton ve Williams’ın arkaplan ileri yayılımı üzerine çalışmaları (1986), sinir ağlarını sistematik olarak eğitmek için gereken matematiksel altyapının temellerini atmıştır; ancak bu potansiyele ulaşmak 2010’lara kadar beklenmiştir — örneğin Krizhevsky ve arkadaşlarının derin sarmalama yaklaşımıyla ImageNet yarışmasını yeniden şekillendirdiği bilinen çalışmalar tam da bu pencereye denk gelmektedir.

Derin Öğrenmenin Temel Mekanikleri ve Aşamaları

Sinir Ağlarının Matematiksel Çerçevesi

İnsan beyninden ilham alan bir sinir ağı, giriş ile istenen çıktı arasındaki ilişkiyi sağlayan katmanlı (layered) yapıda birbirine bağlı düğüm ya da nöronlardan oluşur. Her bağlantının kendisine atanmış bir ağırlık değeri vardır; her nöronun ise o girdileri belirli biçimde özetleyen, genellikle “yanıltıcı” olarak adlandırılan sabit bir değer taşır. Bir nöron gelen sinyallerin ağırlıklı toplamını hesaplar ve bunu geçiren fonksiyon (aktiflik/aktarım fonksiyonu) üzerinden sonradan dönüştürerek ileriye yayar. Giriş ile çıktı katmanları arasında yer alan ara nöronlara gizli katman (hidden layer) denir.

Derin öğrenmeyi deri yapan şey tam da bu gizli katmanların sayısıdır: söz konusu sayının yüzlerce hatta binlere ulaşması, modele soyut düzeydeki basitten karmaşığa doğru artan hiyerarşik bir temsil kurabilme kapasitesi kazandırır. Bu mimari — girişten çıkışa uzanan tipik akış şeması — modelin veriyi adım adım daha yüksek seviyede anlamlara dönüştürdüğü temel geometridir.

Arkaplan İleri Yayılımı ve Gradyan Indirme Yöntemiyle Eğitime

Bir modeli eğitmek iki aşamalı döngünün tekrarıyla gerçekleşir. İlk adımda arkaplan ileri yayılım (forward propagation) denilen süreçte girdiler ağın başından sonuna doğru aktarılır; her katmanda hesaplanan tahmin, hedef değerle karşılaştırılarak bir hata miktarına ulaşılır. İkinci adımda ise bu hatayı azaltmak için ağırlıkların nasıl güncellenmesi gerektiği belirlenir: burada devreye girən yöntemdir gradyan indirme. Gradyan vektörü, parametrelerin hangi yönde ve ne kadar değiştiğinde hatanın en hızlı düşeceğini gösterdiği için optimizasyonun yönünü belirler — tıpkı dağda yamaçtan aşağı kayarken en eğimli yolu izlemek gibidir.

Bu iki aşamanın hesap yoğunluğu çok yüksektir; tek bir eğitim döngüsünün binlerce nöron üzerinden defalarca tekrarlanması gerekir. İşte bu noktada donanım mimarisinin önemi ortaya çıkar: yüksek performanslı ekran kartlarının paralel işlem yapısı derin öğrenme için biçilmiş kaftandır. Küme ya da bulut bilişim altyapısına eklendiğinde, ekibin bir ağın eğitim süresini haftalardan saatlere hatta daha kısa sürelerle düşürebilmesi mümkündür. Bu nedenle günümüzde büyük ölçekli eğitimin çoğu merkezi hesaplama platformlarına taşınmıştır.

Veriden Doğrudan Öznitelik Öğreniminin Önemi

Geleneksel makine öğrenmesinde araştırmacıların zaman harcadığı kritik adım olan manuel öznitelik çıkarımı (feature engineering) derin öğrenmede büyük ölçüde ortadan kalkar. Model, veriyi işlerken kendi başına en anlamlı soyutlamaları keşfeder; böylece uzman bilgisinin elden kaçmasını önleyip modelin veriye özgün biçimde uyum sağlamasını sağlar. Bu otomatik temsil kurma yeteneği, özellikle görsel sınıflandırma gibi görevlerde doğruluğun üst seviyelere çıkmasının temel nedenidir ve aşağıdaki mimari örneklerinde somutlaşır.

Üç Ana Mimariye Bakış

Derin öğrenme literatüründe üç temelde birbirinden ayrılmış ama zamanla birleşen yapı ailesine sıkça rastlanır: sarmalama sinir ağları (CNN), geriye dönüşlü sinir ağları (RNN) ve transformatör modellerinin oluşturduğu dikkat tabanlı yaklaşım. Her biri verideki bağıntının türüne göre özelleşmiştir.

Sarmalama Sinir Ağları

Bir sarmalama sinir ağı, öğrendiği öznitelikleri giriş verisiyle çarpım işlemine uğratır; bu yüzden iki boyutlu katmanlar kullanır ve görüntüler gibi iki boyutlu verilere işlenmesini uygun kılar. Sınıflandırma görevinde doğrudan görsellerden öznitelikler çıkararak çalışır: ilgili öznitelikler ağ bir dizi örnek üzerinde eğitilirken öğrenilir — yani model “bu deseni nerede aramalı” sorusuna kendi deneyimiyle yanıt verir. Bu otomatik öztanımlama yeteneği derin sarmalama modellerini görsel tanıma konularında insan seviyesine ulaşan hatta onu aşan doğrulukla sonuçlandıracak biçimde güçlendirir. Aynı temel, zaman serisi ya da metin dahil olmak üzere farklı veri tiplerinin de sınıflandırılması amacıyla uyarlanabilir; çünkü asıl mesele iki boyutluluğa değil, yereldeki örüntüleri yakalamaya dayanır.

Geriye Dönüşlü Sinir Ağları ve LSTM’ler

Bir geriye dönüşlü sinir ağı (RNN), derin öğrenmede kullanılan ve zaman serisine veya sıralı verilere yönelik bir ağ mimarisidir. Uzunluğu değişen sıralı veriler üzerinde çalışmada özellikle etkili olup doğal sinyal sınıflandırması, dil işleme ve video analizi gibi problemlerin çözümünde başarılıdır — burada “sıra” kavramının korunması model için kritik öneme sahiptir; çünkü 5’ten sonra gelen girdinin anlamı büyük ölçüde öncekinden bağımsız değildir. Ancak basit RNN’lerin uzun vadeli bağlamı koruyakta zorlanması sorun yaratmıştır; bu sorunu çözmek amacıyla geliştirilen uzun kısa süreli hafıza (LSTM) ağı, özel kapılarla donatılmıştır ve böylece daha uzun vadeli ilişkileri öğrenebilir biçimde örneğin kalp ritmi sinyallerindeki nadir olayları bile yakalayabilir.

Transformatörler ve Dikkat Mekanizması

Transformatör modelleri sıralı veri içindeki ilişkilerin takibine odaklanmak üzere tasarlanmışlardır. Giriş ile çıktı arasındaki küresel bağıntıları yakalamak amacıyla kendilerine özgü bir dikkat mekanizmasına dayanır; bu sayede model verinin herhangi iki parçasının birbirini nasıl etkilediğini doğrudan hesaplayarak uzak bağlamda da ilişki kurar — klasik geriye dönüşlü yaklaşımın yerinde “her noktaya tüm diziyi gözden geçirme” yeteneği sunar. Bu mimari genellikle doğal dil işlemede kullanılır ve büyük ölçekli dillerin temeli haline gelmiştir: Google’ın BERT gibi kod-anlama ailesinden OpenAI’nin GPT serisine kadar pek çok yapı transformatör çerçevesine dayanmaktadır.

Modeli Kullanmanın Yolları: Baştan Eğitmek, Uyarlamak ve Aktarmak

Bir derin öğrenme modelini baştan yaratabilir ya da eğitilmiş hazır bir modeli alıp kendi görevinize uygulayabilir veya uyarlayabilirsiniz; üç temel yol bu seçenekleri özetler.

Baştan Eğitim (Training from Scratch)

Baştan eğitim için geniş kapsamlı etiketli veri seti toplanır ve ağın hem öznitelikleri öğrenecek biçimde tasarladığınız mimari belirlenir. Bu yaklaşım yeni ya da belirli uygulamalar — henüz mevcut modellerinin bulunmadığı durumlar — için uygundur. Temel dezavantajı ise büyük miktarda doğruluk işaretlemesi yapılmış veriyi gerektirmesidir; ayrıca eğitim süresi görevin niteliğine ve kullanılan hesaplama kaynaklarına bağlı olarak saatlerden haftalara kadar değişebilir, maliyet açısından ciddi bir yük oluşturur.

Transfer Öğrenme (Transfer Learning)

Görüntü sınıflandırması, bilgisayarlı görü, ses işleme ve doğal dil işlemede transfer öğrenme sıkça tercih edilen pratik yoldur. Bu yöntemde eğitilmiş hazır bir model ince ayarlanır: örneğin görüntü tanımasında SqueezeNet ya da GoogLeNet gibi mevcut bir modeli alıp daha önce görülmemiş sınıf içeren yeni veriler beslenir; ağ üzerinde birkaç düzenlemeyi yaptıktan sonra artık yalnızca köpek veya kedi ayrımından ziyade 1000 farklı nesneye göre değil de tek başına belirli kategoriler arasında seçim yapma biçimine dönüştürülebilir. En çarpıcı avantajı gereken veri miktarının çok az olmasıdır — böylece eğitim süresinde belirgin düşüş sağlanırken, hazır modelin zaten öğrendiği soyutlamalardan faydalanılır.

Bileşen Olarak Kullanım (Feature Extractor)

Eğitilmiş bir derin öğrenme modeli ayrıca öznitelik çıkarıcısı olarak da kullanılabilir: katman aktivasyonları başka bir makine öğrenmesi modeli örneğin destek vektörli makineler için girdi niteliğinde işlenebilir ya da hazırlanmış model başka bir ağın bileşeni olarak entegre edilebilir. Örneğin görüntü tanıma amaçlı eğitilen sarmalama sinir ağı, nesne algılama görevindeki ön-işleyici/öztanımlayıcı rolünü üstlenerek daha karmaşıklığı azaltılmış ve hızlı çalışan sistemler kurulmasını sağlar.

Sektörel Boyutlar: Klinik Tıp Alanındaki Uygulamalar

Derin öğrenmenin en dikkat çeken etkileri sağlık alanında görülebilir; çünkü burada doğru tanı zamanında konulması insan hayatı doğrudan ilgilidir. Bu bölümde klinik bağlamda öne çıkan üç uygulama alanına bakılır.

Bilgisayarlı Görüntüleme ve Tanıda Destek

Radyolojik görüntüler (röntgen, MR, BT), patoloji preparatları gibi tıbbi görseller üzerinde sarmalama sinir ağları kanser hücrelerini sayma, tümör boyutunu tahmin etme ya da organ içi anormallikleri işaretlemekte son derece başarılıdır. Modelin piksellerden otomatik olarak anlamlar kurabilmesi, deneyimli uzmanların yıllarca edinmiş olduğu gözlemleri sistematik biçimde yeniden üretebilir; bu durum özellikle uzaktaki hastanelerde veya nitelikli elemanın az olduğu bölgelerde tanının erişilebilirliğini artırır.

Zaman Serisi Sinyallerinde Ritim Tanılama

Kalp ritmi kayıtları gibi biyosinyaller doğal zaman serisidir ve geriye dönüşlü ağlar — örneğin LSTM mimarisinin uzun vadeli bağlamı koruyacak yapısı sayesinde nadir görülen aritmini desenleri bile yakalayabilir. Bu tür sistemler, klinik ortamda sürekli izlenen hasta verilerini gerçek zamanlı biçimde analiz ederek olası bir düzensizliği erken aşamada uyarı verebilmektedir; böylece müdahale penceresi genişletilir.

Tıbbi Metin Analizi ve Kodlama Otomasyonu

Klinik notların, rapor metinlerinin ya da tıp kayıtlarının işlenmesi transformatör tabanlı diller için doğal bir alan sunar: doktora dayalı belgeleri özetlemek, hastanın geçmiş durumunu anlamlandırmak veya uluslararası tanı sınıflandırma kodlarına otomatik olarak eşleştirmek gibi görevlerde derin modeller giderek yaygınlaşmaktadır — bu da hem personel yükünü azaltır hem de insan hatasına maruz kalan manuel süreçlerin sayısını düşürür. Bu uygulamaların yanı sıra sürüş sistemlerindeki nesne algılama, fabrikadaki kusur tespiti ve sesli asistanlar gibi sektörel örneklerde de aynı temel mimariler işlev görür; ancak klinik bağlamda doğruluk payı her zamankinden daha yüksek bir sorumluluğa dönüşmektedir.

Akademik Sonuçlar ve Eleştiriler

Derin öğrenme makine öğrenmesinin uzmanlaşmış biçimidir ve ikisi de yapay zeka alanının parçasını oluşturur. Uygulamanızda derin öğrenmeyi mi yoksa klasik algoritmaları mı tercih edeceğiniz sisteminizin hedeflerine, verilerin miktarına ve çözülmesi istenen problem türüne bağlıdır — çünkü bu iki yaklaşım birbirini tamamlayan araç kutusunun farklı aletleridir. Tek kelimeyle seçimin en güçlü argümanı doğrulukdur: derin öğrenme genellikle daha yüksek doğruluk sağlar ve genişletilmiş çalışma akışının otomasyonunu artırır; buna karşılık başlıca eksiklikleri de şudur ki—daha karmaşıktırlar ve eğitimde çok daha büyük veri ile hesaplama gücü gerektirirler.

Eleştiriler yalnızca teknik değil, aynı zamanda epistemolojik boyut taşır. Derin modellerin “siyah kutu” (black-box) niteliği — içsel karar mekanizmalarını insan düzeyinde açıklayabilmekte zorlanmaları — tıp gibi sorumluluğu yüksekte olan alanlarda ciddi bir tartışma konusu olmuştur: model yüksek doğruluk gösterse bile neden o kararı verdiğinin anlaşılması bazen tanının güvenilirliliğinden daha kritik olabilir. Buna ek olarak eğitimin büyük ölçüde etiketli veriye bağımlılığı, kalitesiz ya da yanlı veri setlerinin sistemik önyargıları modele aktarabileceğini ve buna bağlı biçimde adil olmayan sonuçlar üretebileceği gerçeğine işaret eder. Bu nedenle akademik çevrelerde yeniden üretilebilirlik (reproducibility), açık kaynak kodluluğu ve eleştiriyi içeren değerlendirme protokollerine verilen önem giderek artmaktadır; bir modelin başarısı artık yalnızca doğruluk rakamıyla değil, aynı zamanda metodolojik şeffaflıkla da sorgulanmalıdır.

Akademik Değerlendirme ve Kaynakça

Bu makalede derin öğrenmenin kavramsal temellerinden mimari çeşitliliğine kadar geniş bir yelpazede tartışılan konuların her biri, alanı şekillendiren özgün araştırmalara dayanır. Derin öğrenmeyi makine öğrenmesinin uzmanlaşmış biçimi olarak tanımlayan temel referans Nature dergisinde yayımlanan kapsamlı incelemedir; bu çalışma sinir ağlarının insan beynindeki karşılığını vurgulayarak dönemin perspektifini netleştirir. Alanın otorite kabul edilen ders kitabında ise nöronların matematiksel modelleri ve eğtim sürecinin detayları sistematik biçimde işlenmiştir — özellikle arkaplan ileri yayılımının formülasyonunu anlamak için başvurulması gereken başlıca kaynak budur.

İlk arkaplan ileri yayılım üzerine atılan klasik adım, parametrelerin hatayı azaltacak şekilde güncellenmesini sağlayan yöntemle ilgili çalışmadır (Rumelhart vd., 1986); bu eser olmadan günümüz eğitim döngülerinin kendisi de düşünülemeyecekti. Sarmalama sinir ağlarının görüntü tanımasındaki devrimine işaret eden çalışma ise ImageNet yarışmasını yeniden şekillendirmiş ve derin sarmalamanın üstün doğruluk potansiyelini kanıtlamıştır — mimari tasarımının önemi açısından temel bir referanstır. Zaman serileri için geliştirilen uzun kısa süreli hafıza yapısının, basit geriye dönüşlü modellerden daha uzun vadeli bağıntıları öğrenebildiği gösterildiği özgün makale RNN/LSTM tartışmasının dayanağını oluşturur; bu da metinde geçen klinik sinyal uygulamalarının teorik temeline ışık tutar. Son olarak dikkat mekanizmasına dayanarak sıralı veri içinde küresel ilişkiler kurabilen transformatör yaklaşımını tanıtan çalışma, modern büyük dil modellerinin ve dolayısıyla doğal dil işleme alanının mimari kökenlerini anlamak için kaçınılmaz bir başyapıt niteliğindedir — yazıda aktarılan BERT/GPT ailesine dair iddiaların arkasındaki teknik altyapı tam da buradan beslenmektedir.

Kaynakça

1. LeCun, Y., Bengio, Y. & Hinton, G. (2015). Deep Learning. Nature, 521(7553), s. 436–444.
2. Goodfellow, I., Bengio, Y. ve Courville, A. (2016). Deep Learning [e-kitap]. MIT Press; erişim: https://www.deeplearningbook.org/
3. Rumelhart, D.E., Hinton, G.E. & Williams, R.J. (1986). Learning representations by back-propagating errors. Nature, 323(6088), s. 533–536.
4. Krizhevsky, A., Sutskever, I. & Hinton, G.E. (2012). ImageNet classification with deep convolutional neural networks. Advances in Neural Information Processing Systems (NeurIPS) 25.
5. Hochreiter, S. ve Schmidhuber, J. (1997). Long Short-Term Memory. Neural Computation, Cilt 9, No. 8, s. 1735–1780.
6. Vaswani, A. vd. (2017). “Attention is all you need.” Advances in Neural Information Processing Systems (NeurIPS) 30.

Kaynak Notu: Bu çalışma, https://www.mathworks.com/discovery/deep-learning.html üzerindeki arşiv verilerinden yararlanılarak güncellenmiş ve akademik formatta derlenmiştir.