Meyilli Azalım (Gradient Decent)

Yazan : Şadi Evren ŞEKER

Geri yayılımlı (Backpropagation) ağlarda öğrenme iki adımda olur:

1. Giriş katmanında öğrenilmsi istenen verinin modellenmesi

2. Meyilli azalma kullanılarak toplam hatanın asgarileştirilmesi (minimisation)

Burada meyilli azalım için kullanılan ve her sinapsis üzerindeki değişimi veren:

Δw_ji = -ε [dE/dw_ji]

formülü kullanılabilir. Buradaki sinapsis değişimi hatanın (E) mevcut sinapsis ağırlık değeri üzerindeki türevi ile adım boyu (step size) (ε) değerinin çarpımına eşittir.

Buradaki adım boyu, sistemin oturması ve kararlı olması için geçen adım miktarını etkilemektedir.

Aşağıdaki şekilde meyilli azalımın 2 boyutlu kartezyen uzaydaki hareketi gösterilmiştir:

Yukarıda da tasvir edildiği üzere hata miktarının artması ve doğru ağırlık (W) değerine sistemin oturması yerel minimum değerinin türev ile bulunması ile mümkündür.

Sistemin toplam hata miktarı ise sistemdeki yerel hataların toplamıdır. Bu değer beklenen çıktıdan nekadar uzak olduğumuzun hesaplanması ile bulunabilir.

« Geri Yayılımlı Ağlar (Backpropagation Networks) | OpenGL ile kullanıcılı iletişimi (user interaction) »

Yorumlar

Bu Yazı Hakkında

Bilgisayar Kavramları üzerinde şu anda okumakta olduğunuz 'Meyilli Azalım (Gradient Decent)' isimli yazı 03 Nov 2008 tarihinde, saat: 10:12 'de Şadi Evren ŞEKER tarafından gönderilmiş, toplam 541 defa okunmuştur.

Benzer yazıları Yapay Sinir Ağları (Artificial Neural Networks) kategorilerinden okuyabilirsiniz. Yazar ile irtibat kurmak için email gönderebilirsiniz. Yazıya yorum yapabilir ya da yapılan yorumları RSS 2.0 ile takibe alabilirsiniz.

Yazarın Kitabı

Bu yazının yazarı Şadi Evren ŞEKER'in son çıkan kitabı "Programlama ve Veri Yapılarına giriş (C, C++ ve JAVA ile)" hakkında bilgi almak için Buraya tıklayabilirsiniz.
Eklenen Son Yazılar