BP神經(jīng)網(wǎng)絡模型與學習算法詳解.doc
本文關鍵詞:BP神經(jīng)網(wǎng)絡模型與學習算法,由筆耕文化傳播整理發(fā)布。
BP神經(jīng)網(wǎng)絡模型與學習算法
BP神經(jīng)網(wǎng)絡模型與學習算法 1
一,,什么是BP 1
二、反向傳播BP模型 8
一,什么是BP
"BP(Back Propagation)網(wǎng)絡是1986年由Rumelhart和McCelland為首的科學家小組提出,是一種按誤差逆?zhèn)鞑ニ惴ㄓ柧毜亩鄬忧梆伨W(wǎng)絡,是目前應用最廣泛的神經(jīng)網(wǎng)絡模型之一。BP網(wǎng)絡能學習和存貯大量的輸入-輸出模式映射關系,而無需事前揭示描述這種映射關系的數(shù)學方程。它的學習規(guī)則是使用最速下降法,通過反向傳播來不斷調(diào)整網(wǎng)絡的權值和閾值,使網(wǎng)絡的誤差平方和最小。BP神經(jīng)網(wǎng)絡模型拓撲結構包括輸入層(input)、隱層 hide layer 和輸出層 output layer 。"
我們現(xiàn)在來分析下這些話:
“是一種按誤差逆?zhèn)鞑ニ惴ㄓ柧毜亩鄬忧梆伨W(wǎng)絡”
BP是后向傳播的英文縮寫,那么傳播對象是什么?傳播的目的是什么?傳播的方式是后向,可這又是什么意思呢。
傳播的對象是誤差,傳播的目的是得到所有層的估計誤差,后向是說由后層誤差推導前層誤差:
即BP的思想可以總結為
利用輸出后的誤差來估計輸出層的直接前導層的誤差,再用這個誤差估計更前一層的誤差,如此一層一層的反傳下去,就獲得了所有其他各層的誤差估計。?
“BP神經(jīng)網(wǎng)絡模型拓撲結構包括輸入層(input)、隱層 hide layer 和輸出層 output layer ”
最簡單的三層BP:
“BP網(wǎng)絡能學習和存貯大量的輸入-輸出模式映射關系,而無需事前揭示描述這種映射關系的數(shù)學方程!
BP利用一種稱為激活函數(shù)來描述層與層輸出之間的關系,從而模擬各層神經(jīng)元之間的交互反應。
激活函數(shù)必須滿足處處可導的條件。那么比較常用的是一種稱為S型函數(shù)的激活函數(shù):
那么上面的函數(shù)為什么稱為是S型函數(shù)呢:
我們來看它的形態(tài)和它導數(shù)的形態(tài):
p.s. S型
本文關鍵詞:BP神經(jīng)網(wǎng)絡模型與學習算法,由筆耕文化傳播整理發(fā)布。
本文編號:223309
本文鏈接:http://sikaile.net/kejilunwen/rengongzhinen/223309.html