本文選題：隨機(jī)權(quán)分布 + 極限學(xué)習(xí)機(jī)��； 參考：《計(jì)算機(jī)科學(xué)》2016年12期

【摘要】：極限學(xué)習(xí)機(jī)是一種訓(xùn)練單隱含層前饋神經(jīng)網(wǎng)絡(luò)的算法,它隨機(jī)初始化輸入層的權(quán)值和隱含層結(jié)點(diǎn)的偏置,用分析的方法確定輸出層的權(quán)值。極限學(xué)習(xí)機(jī)具有學(xué)習(xí)速度快、泛化能力強(qiáng)的特點(diǎn)。很多研究都用服從[-1,1]區(qū)間均勻分布的隨機(jī)數(shù)初始化輸入層權(quán)值和隱含層結(jié)點(diǎn)的偏置,但沒有對這種隨機(jī)初始化合理性的研究。用實(shí)驗(yàn)的方法對這一問題進(jìn)行了研究,分別研究了隨機(jī)權(quán)服從均勻分布、高斯分布和指數(shù)分布對極限學(xué)習(xí)機(jī)性能的影響。研究發(fā)現(xiàn)隨機(jī)權(quán)的分布對極限學(xué)習(xí)機(jī)的性能的確有影響,對于不同的問題或不同的數(shù)據(jù)集,服從[-1,1]區(qū)間均勻分布的隨機(jī)權(quán)不一定是最優(yōu)的選擇。研究結(jié)論對從事極限學(xué)習(xí)機(jī)研究的人員具有一定的借鑒作用。
[Abstract]:Extreme learning machine (LLM) is an algorithm for training single hidden layer feedforward neural network. It initializes the weights of the input layer and the bias of the hidden layer nodes at random, and determines the weight value of the output layer by the analytical method. Extreme learning machine has the characteristics of fast learning speed and strong generalization ability. Many studies have used random numbers uniformly distributed from [-1] interval to initialize the input layer weights and the bias of hidden layer nodes, but there is no study on the rationality of such random initialization. The effects of uniform distribution, Gao Si distribution and exponential distribution on the performance of LLM are studied by means of experiments. It is found that the distribution of random weights does have an effect on the performance of LLM. For different problems or different data sets, the random weight distributed uniformly from [-1] interval is not necessarily the best choice. The conclusion of the study can be used as a reference for the personnel engaged in the research of extreme learning machine.
【作者單位】： 河北省機(jī)器學(xué)習(xí)與計(jì)算智能重點(diǎn)實(shí)驗(yàn)室河北大學(xué)數(shù)學(xué)與信息科學(xué)學(xué)院;河北大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院;中國氣象局氣象干部培訓(xùn)學(xué)院河北分院;
【基金】：國家自然科學(xué)基金項(xiàng)目(71371063) 河北省自然科學(xué)基金項(xiàng)目(F2013201220) 河北省高等學(xué)校科學(xué)技術(shù)研究重點(diǎn)項(xiàng)目(ZD20131028)資助
【分類號】：TP181

【相似文獻(xiàn)】

相關(guān)期刊論文 前5條

1 張志軍;楊育捷;段新濤;;一種緊湊高效LFSR結(jié)構(gòu)的均勻分布隨機(jī)數(shù)產(chǎn)生器[J];新鄉(xiāng)學(xué)院學(xué)報;2014年06期

2 何振峰,史杏榮;隨機(jī)二維正態(tài)數(shù)據(jù)的生成[J];微型機(jī)與應(yīng)用;1998年06期

3 馬路;石立國;王竹剛;;基于均勻分布隨機(jī)數(shù)的誤碼發(fā)生器設(shè)計(jì)[J];電子設(shè)計(jì)工程;2013年24期

4 宋平;劉恒;;基于聚類與均勻分布的圖像顯著性檢測算法研究[J];微型機(jī)與應(yīng)用;2013年03期

5 ;[J];;年期

相關(guān)碩士學(xué)位論文 前1條

1 方園;兩種類均勻分布的統(tǒng)計(jì)分析[D];上海師范大學(xué);2014年

，

本文編號：2107853