BP神經(jīng)網(wǎng)絡(luò)模型與學(xué)習(xí)算法詳解.doc
本文關(guān)鍵詞:BP神經(jīng)網(wǎng)絡(luò)模型與學(xué)習(xí)算法,由筆耕文化傳播整理發(fā)布。
BP神經(jīng)網(wǎng)絡(luò)模型與學(xué)習(xí)算法
BP神經(jīng)網(wǎng)絡(luò)模型與學(xué)習(xí)算法 1
一,,什么是BP 1
二、反向傳播BP模型 8
一,什么是BP
"BP(Back Propagation)網(wǎng)絡(luò)是1986年由Rumelhart和McCelland為首的科學(xué)家小組提出,是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò),是目前應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一。BP網(wǎng)絡(luò)能學(xué)習(xí)和存貯大量的輸入-輸出模式映射關(guān)系,而無需事前揭示描述這種映射關(guān)系的數(shù)學(xué)方程。它的學(xué)習(xí)規(guī)則是使用最速下降法,通過反向傳播來不斷調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值,使網(wǎng)絡(luò)的誤差平方和最小。BP神經(jīng)網(wǎng)絡(luò)模型拓?fù)浣Y(jié)構(gòu)包括輸入層(input)、隱層 hide layer 和輸出層 output layer 。"
我們現(xiàn)在來分析下這些話:
“是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò)”
BP是后向傳播的英文縮寫,那么傳播對象是什么?傳播的目的是什么?傳播的方式是后向,可這又是什么意思呢。
傳播的對象是誤差,傳播的目的是得到所有層的估計誤差,后向是說由后層誤差推導(dǎo)前層誤差:
即BP的思想可以總結(jié)為
利用輸出后的誤差來估計輸出層的直接前導(dǎo)層的誤差,再用這個誤差估計更前一層的誤差,如此一層一層的反傳下去,就獲得了所有其他各層的誤差估計。?
“BP神經(jīng)網(wǎng)絡(luò)模型拓?fù)浣Y(jié)構(gòu)包括輸入層(input)、隱層 hide layer 和輸出層 output layer ”
最簡單的三層BP:
“BP網(wǎng)絡(luò)能學(xué)習(xí)和存貯大量的輸入-輸出模式映射關(guān)系,而無需事前揭示描述這種映射關(guān)系的數(shù)學(xué)方程!
BP利用一種稱為激活函數(shù)來描述層與層輸出之間的關(guān)系,從而模擬各層神經(jīng)元之間的交互反應(yīng)。
激活函數(shù)必須滿足處處可導(dǎo)的條件。那么比較常用的是一種稱為S型函數(shù)的激活函數(shù):
那么上面的函數(shù)為什么稱為是S型函數(shù)呢:
我們來看它的形態(tài)和它導(dǎo)數(shù)的形態(tài):
p.s. S型
本文關(guān)鍵詞:BP神經(jīng)網(wǎng)絡(luò)模型與學(xué)習(xí)算法,由筆耕文化傳播整理發(fā)布。
本文編號:223309
本文鏈接:http://sikaile.net/kejilunwen/rengongzhinen/223309.html