Meyilli Azalım (Gradient Decent)
Yazan : Şadi Evren ŞEKER
Geri yayılımlı (Backpropagation) ağlarda öğrenme iki adımda olur:
1. Giriş katmanında öğrenilmsi istenen verinin modellenmesi
2. Meyilli azalma kullanılarak toplam hatanın asgarileştirilmesi (minimisation)
Burada meyilli azalım için kullanılan ve her sinapsis üzerindeki değişimi veren:
Δwji = -ε [dE/dwji]
formülü kullanılabilir. Buradaki sinapsis değişimi hatanın (E) mevcut sinapsis ağırlık değeri üzerindeki türevi ile adım boyu (step size) (ε) değerinin çarpımına eşittir.
Buradaki adım boyu, sistemin oturması ve kararlı olması için geçen adım miktarını etkilemektedir.
Aşağıdaki şekilde meyilli azalımın 2 boyutlu kartezyen uzaydaki hareketi gösterilmiştir:

Yukarıda da tasvir edildiği üzere hata miktarının artması ve doğru ağırlık (W) değerine sistemin oturması yerel minimum değerinin türev ile bulunması ile mümkündür.
Sistemin toplam hata miktarı ise sistemdeki yerel hataların toplamıdır. Bu değer beklenen çıktıdan nekadar uzak olduğumuzun hesaplanması ile bulunabilir.
« Geri Yayılımlı Ağlar (Backpropagation Networks) | OpenGL ile kullanıcılı iletişimi (user interaction) »
Yorumlar
Bilgisayar Kavramları üzerinde şu anda okumakta olduğunuz 'Meyilli Azalım (Gradient Decent)' isimli yazı 03 Nov 2008 tarihinde, saat: 10:12 'de Şadi Evren ŞEKER tarafından gönderilmiş, toplam 541 defa okunmuştur.
Benzer yazıları Yapay Sinir Ağları (Artificial Neural Networks) kategorilerinden okuyabilirsiniz. Yazar ile irtibat kurmak için email gönderebilirsiniz. Yazıya yorum yapabilir ya da yapılan yorumları RSS 2.0 ile takibe alabilirsiniz.
Yazarın Kitabı
Bu yazının yazarı Şadi Evren ŞEKER'in son çıkan kitabı "Programlama ve Veri Yapılarına giriş (C, C++ ve JAVA ile)" hakkında bilgi almak için Buraya tıklayabilirsiniz.
Eklenen Son Yazılar
- Visual Basic ile Gösterici (Pointer) Kullanımı
- Hasse Çizgeleri (Hasse Diagrams)
- Zeki Vekiller (Akıllı Ajanlar, Intelligent Agents, Zeki Etmenler )
- Integral Kriptoanalizi ( Toplam Tecessüsü , Integral Cryptoanalysis)
- Diferansiyel Kriptoanalizi ( Fark Tecessüsü , Differential Cryptoanalysis)
- Sierpinski Üçgeni (Sierpinski Triangle)
- C ile programlamaya giriş final sınavı çözümleri
- Çok Seviyeli Sıralar (Multi Level Queues)
- Çift Özetleme (Double Hashing)
- İkinci Dereceden Sondalama (Quadratic Probing)
Yapılan Son Yorumlar
- Şadi Evren ŞEKER: Sıralama işleminiz poligonu...
- Şadi Evren ŞEKER: bahsettiğiniz sıralama algoritması...
- Abdurrahman ulusoy: merhaba hocam. gelişigüzel...
- Oguz Okutan: Merhaba hocam.. Fonksiyonlarda degere göre...
- Şadi Evren ŞEKER: Null, NULL, nil veya null olarak...
- Fatih Kabakci: hocam merhabalar,...
- kara: Çok güzel anlatılmış gerçekten teşekkürler...
- Şadi Evren ŞEKER: Bahsettiğiniz şekil dönüşümü...
- Caner: Kullanıcıdan açı girdisi almıyorsanız...
- Furkan Yediyildiz: Algoritmanin mantigi cok güzel...
- havva: çok sağolun çok güzel açıklamalar var tşk...
- Şadi Evren ŞEKER: typedef komutu, bir yapıdan yeni bir...
- fatih kabakci: hocam ben structures ile ilgili bir sorum...
- Şadi Evren ŞEKER: evet, yukarıda açıklanan, herhangi...
- Abdurrahman ulusoy: fi açısından teta kadar döndürme...
- Şadi Evren ŞEKER: Hayır yok, bir noktanın, herhangi...
- Abdurrahman ulusoy: Bu durumda yukarıdaki formüllerin...
- Abdurrahman ulusoy: Merhaba hocam Üstteki mesajımda...
- mustafa ekmekcioğlu: merhaba şadi bey ben hacettepe...
- Şadi Evren ŞEKER: Talebiniz üzerine...
Yakın Yazılar
Meyilli Azalım (Gradient Decent)
Geri Yayılımlı Ağlar (Backpropagation Networks)
Kartezyen Uzay (Cartesian Space)
tıkanıklık penceresi (congestion window)
Kuyruk Özyinelemesi (Tail Recursion, Birikimsel Tarz, Accumulation Style)
Kutu Filitresi (Box Filtering)
Uzaysal Çözünürlük (Spatial Resolution)
Harici Parçalar (External Fragments)
Eşyönsüz Süzme (ANISOTROPIC FILTERING)
Alfa Beta Budaması (Alpha Beta Prunning)
Bağlantılar