本文選題：回聲狀態(tài)網(wǎng) + 時(shí)間序列預(yù)測��； 參考：《自動(dòng)化學(xué)報(bào)》2017年07期

【摘要】：為了提升泄露積分型回聲狀態(tài)網(wǎng)(Leaky integrator echo state network,Leaky-ESN)的性能,提出利用罰函數(shù)內(nèi)點(diǎn)法優(yōu)化Leaky-ESN的全局參數(shù),如泄漏率、內(nèi)部連接權(quán)矩陣譜半徑、輸入比例因子等,這克服了通過反復(fù)試驗(yàn)法選取參數(shù)值而降低了Leaky-ESN模型的優(yōu)越性和性能.Leaky-ESN的全局參數(shù)必須保障回聲狀態(tài)網(wǎng)滿足回聲狀態(tài)特性,因此它們之間存在不等式約束條件.有學(xué)者提出利用隨機(jī)梯度下降法來優(yōu)化內(nèi)部連接權(quán)矩陣譜半徑、輸入比例因子、泄露率三個(gè)全局參數(shù),一定程度上提高了Leaky-ESN的逼近精度.然而,隨機(jī)梯度下降法是解決無約束優(yōu)化問題的基本算法,在利用隨機(jī)梯度下降法優(yōu)化參數(shù)時(shí),沒有考慮參數(shù)必須滿足回聲特性的約束條件(不等式約束條件),致使得到的參數(shù)值不是最優(yōu)解.由于罰函數(shù)內(nèi)點(diǎn)法可以求解具有不等式約束的最優(yōu)化問題,應(yīng)用范圍廣,收斂速度較快,具有很強(qiáng)的全局尋優(yōu)能力.因此,本文提出利用罰函數(shù)內(nèi)點(diǎn)法優(yōu)化Leaky-ESN的全局參數(shù),并以時(shí)間序列預(yù)測為例,檢驗(yàn)優(yōu)化后的Leaky-ESN的預(yù)測性能,仿真結(jié)果表明了本文提出方法的有效性.
[Abstract]:In order to improve the performance of leaky integrator echo state network (Leaky-ESNs), the penalty function interior point method is proposed to optimize the global parameters of Leaky-ESN, such as leakage rate, spectral radius of internal connection weight matrix, input scale factor, etc. This overcomes the superiority of the Leaky-ESN model and the global parameters of the Leaky-ESN model. The global parameters of the Echo state net must be guaranteed to satisfy the echo state characteristics, so there are inequality constraints between them. Some scholars have proposed that the stochastic gradient descent method can be used to optimize the spectral radius of the internal connection weight matrix, the input scale factor, and the leakage rate. To some extent, the approximation accuracy of Leaky-ESN is improved. However, the stochastic gradient descent method is the basic algorithm for solving unconstrained optimization problems. The parameter must satisfy the constraint condition of echo characteristic (inequality constraint condition is not considered), so the parameter value obtained is not the optimal solution. Because the penalty function interior point method can solve the optimization problem with inequality constraints, it has a wide range of applications, fast convergence speed and strong global optimization ability. Therefore, a penalty function interior point method is proposed to optimize the global parameters of Leaky-ESN. The prediction performance of the optimized Leaky-ESN is tested by using time series prediction as an example. The simulation results show the effectiveness of the proposed method.
【作者單位】： 渤海大學(xué)新能源學(xué)院;渤海大學(xué)工學(xué)院;
【基金】：國家自然科學(xué)基金(61573072,21506014) 遼寧省自然科學(xué)基金(2014020143) 2011年遼寧省第一批科學(xué)技術(shù)計(jì)劃項(xiàng)目(2011402001) 遼寧省教育廳科學(xué)技術(shù)研究項(xiàng)目(L2015008)資助~~
【分類號】：O211.61;TP183

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 劉富;;壓縮式橡膠封隔件罰函數(shù)有限元分析[J];新疆石油科技;1993年01期

2 徐增　;關(guān)于恰當(dāng)罰函數(shù)的注記[J];浙江師大學(xué)報(bào)(自然科學(xué)版);1995年01期

3 尹洪超,施光燕,于福東,袁一;過程綜合混合整數(shù)非線性規(guī)劃的罰函數(shù)-湊整算法[J];大連理工大學(xué)學(xué)報(bào);1997年01期

4 劉芳;單銳;;一類二次罰函數(shù)矯正算法[J];重慶工商大學(xué)學(xué)報(bào)(自然科學(xué)版);2011年01期

5 白富生;羅曉艷;;基于二次函數(shù)光滑化逼近的修正低階罰函數(shù)(英文)[J];運(yùn)籌學(xué)學(xué)報(bào);2012年02期

6 李寶秀,沈愉;一類半無窮規(guī)劃的恰當(dāng)罰函數(shù)[J];蘭州大學(xué)學(xué)報(bào);1990年02期

7 陸海龍,趙映雪;一類廣義恰當(dāng)罰函數(shù)存在的一個(gè)充要條件[J];浙江師范大學(xué)學(xué)報(bào)(自然科學(xué)版);2005年02期

8 張玉環(huán);王長鈺;;一類新的罰函數(shù)與罰算法(英文)[J];運(yùn)籌學(xué)學(xué)報(bào);2011年01期

9 曾云寶,景旭,孫曉波;罰函數(shù)乘子的初值選取和多步長問題[J];哈爾濱理工大學(xué)學(xué)報(bào);2003年01期

10 孫志剛;高希光;上官莉英;宋迎東;;無虛擬節(jié)點(diǎn)罰函數(shù)位移協(xié)調(diào)法[J];南京航空航天大學(xué)學(xué)報(bào);2009年02期

相關(guān)碩士學(xué)位論文 前6條

1 謝琴;不等式約束優(yōu)化兩個(gè)無罰函數(shù)無濾子的SQP算法[D];廣西大學(xué);2015年

2 朱存云;在Gamma-Omega模型中的相關(guān)問題[D];曲阜師范大學(xué);2015年

3 李忠豪;一種低階罰函數(shù)和它的ε-光滑性[D];曲阜師范大學(xué);2006年

4 黃聰;求解美式期權(quán)定價(jià)問題的兩類數(shù)值方法[D];廣西民族大學(xué);2010年

5 張曉琳;基于二次外罰函數(shù)和Kriging模型的目標(biāo)級聯(lián)方法研究[D];華中科技大學(xué);2013年

6 胡玉璽;稀疏模型的三特征聯(lián)合分布以及貼現(xiàn)罰函數(shù)的研究[D];中南大學(xué);2006年

，

本文編號：1874250