本文選題：神經(jīng)網(wǎng)絡(luò)　切入點(diǎn)：偽凸　出處：《哈爾濱理工大學(xué)》2017年碩士論文　論文類型：學(xué)位論文

【摘要】：優(yōu)化問題在科學(xué)和工程應(yīng)用中隨處可見。神經(jīng)網(wǎng)絡(luò)能獲得優(yōu)化問題的實(shí)時(shí)解,所以利用神經(jīng)網(wǎng)絡(luò)對(duì)優(yōu)化問題求解已經(jīng)得到了廣泛的關(guān)注。本文針對(duì)偽凸優(yōu)化問題與非凸二次優(yōu)化問題兩類情形,基于投影理論,極值映射以及法錐相關(guān)性質(zhì),分別構(gòu)造離散和連續(xù)型神經(jīng)網(wǎng)絡(luò)的求解算法;并探討了其在求解支持向量機(jī)中的應(yīng)用。全文共分以下三個(gè)部分:針對(duì)偽凸優(yōu)化問題,提出了一個(gè)離散型神經(jīng)網(wǎng)絡(luò)模型。首先,利用Karush-Kuhn-Tucker(KKT)條件和投影理論構(gòu)造投影方程,使得投影方程的解與優(yōu)化問題的解一一對(duì)應(yīng);進(jìn)一步基于投影方程建立離散神經(jīng)網(wǎng)絡(luò);理論結(jié)果表明,網(wǎng)絡(luò)的平衡點(diǎn)與優(yōu)化問題的最優(yōu)解相對(duì)應(yīng),且網(wǎng)絡(luò)具有全局指數(shù)收斂性。相比于連續(xù)網(wǎng)絡(luò),本文所構(gòu)造的網(wǎng)絡(luò)結(jié)構(gòu)簡(jiǎn)單,減少了計(jì)算的復(fù)雜度;所得理論結(jié)果保證了網(wǎng)絡(luò)能夠有效求解偽凸優(yōu)化問題。最后,利用數(shù)值算例進(jìn)行仿真,數(shù)值結(jié)果表明了所設(shè)計(jì)的網(wǎng)絡(luò)求解偽凸優(yōu)化問題的有效性。針對(duì)非凸二次規(guī)劃問題,首先根據(jù)規(guī)劃問題的等式約束與不等式約束,分別構(gòu)造了不同的罰函數(shù)。然后,利用極值映射以及正則函數(shù)的相關(guān)性質(zhì)構(gòu)造一微分包含形式的神經(jīng)網(wǎng)絡(luò)模型。針對(duì)所構(gòu)造的網(wǎng)絡(luò)模型,基于微分包含相關(guān)性質(zhì)證明了罰函數(shù)沿著所構(gòu)造的網(wǎng)絡(luò)能在有限時(shí)間收斂至可行域內(nèi)。其次,對(duì)網(wǎng)絡(luò)的平衡點(diǎn)與臨界點(diǎn)的一致性進(jìn)行了證明,并基于切錐與法錐的性質(zhì)分析了優(yōu)化問題的最優(yōu)點(diǎn)集與臨界點(diǎn)集之間的關(guān)系。最后,在適當(dāng)?shù)募僭O(shè)條件下,對(duì)網(wǎng)絡(luò)的收斂性進(jìn)行了嚴(yán)格的證明。針對(duì)支持向量機(jī)的分類與回歸問題導(dǎo)出的二次規(guī)劃問題,利用所構(gòu)造的離散神經(jīng)網(wǎng)絡(luò)進(jìn)行求解。數(shù)值結(jié)果表明本文所構(gòu)造的網(wǎng)絡(luò)在求解支持向量機(jī)問題中表現(xiàn)出優(yōu)良的性能。
[Abstract]:Optimization problems can be found everywhere in scientific and engineering applications. Neural networks can obtain real-time solutions of optimization problems. Therefore, the use of neural networks to solve optimization problems has been widely concerned. In this paper, for pseudoconvex optimization problems and non-convex quadratic optimization problems, based on projection theory, extremum mapping and normal cone correlation properties. The algorithms of discrete and continuous neural networks are constructed, and their applications in solving support vector machines are discussed. The paper is divided into three parts: a discrete neural network model is proposed for pseudoconvex optimization problems. The projection equation is constructed by using Karush-Kuhn-Tuckern KKT condition and projection theory. The solution of the projection equation corresponds to the solution of the optimization problem one by one. The discrete neural network is further established based on the projection equation. The equilibrium point of the network corresponds to the optimal solution of the optimization problem, and the network has global exponential convergence. Compared with the continuous network, the network structure in this paper is simple and the computational complexity is reduced. The theoretical results ensure that the network can effectively solve the pseudoconvex optimization problem. Finally, the numerical simulation results show that the designed network is effective in solving the pseudoconvex optimization problem. Firstly, different penalty functions are constructed according to equality constraints and inequality constraints of programming problems. A neural network model of differential inclusion is constructed by using extreme mapping and related properties of regular functions. Based on the correlation properties of differential inclusions, it is proved that the penalty function can converge to the feasible region in finite time along the constructed network. Secondly, the consistency between the equilibrium point and the critical point of the network is proved. Based on the properties of tangent cone and normal cone, the relationship between the optimal set and the critical point set of the optimization problem is analyzed. The convergence of the network is proved strictly. For the quadratic programming problem derived from the classification and regression problems of support vector machines, Numerical results show that the network presented in this paper has excellent performance in solving support vector machine problems.
【學(xué)位授予單位】：哈爾濱理工大學(xué)
【學(xué)位級(jí)別】：碩士
【學(xué)位授予年份】：2017
【分類號(hào)】：TP183;O221

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 劉彩紅;唐萬(wàn)梅;;基于組合神經(jīng)網(wǎng)絡(luò)的教師評(píng)價(jià)模型研究[J];重慶師范大學(xué)學(xué)報(bào)(自然科學(xué)版);2008年04期

2 鐘義信;;神經(jīng)網(wǎng)絡(luò):成就、問題與前景[J];科學(xué);1992年02期

3 莫恭佑;;神經(jīng)網(wǎng)絡(luò)及其在英國(guó)的應(yīng)用[J];國(guó)際科技交流;1992年03期

4 閔志;;神經(jīng)網(wǎng)絡(luò):使計(jì)算機(jī)具有快速學(xué)習(xí)功能[J];國(guó)際科技交流;1992年03期

5 馮建峰,錢敏平;神經(jīng)網(wǎng)絡(luò)中的退火——非時(shí)齊情形[J];北京大學(xué)學(xué)報(bào)(自然科學(xué)版);1993年03期

6 唐功友;離散Hopfield神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性[J];青島海洋大學(xué)學(xué)報(bào);1994年S2期

7 靳蕃;;中國(guó)神經(jīng)網(wǎng)絡(luò)學(xué)術(shù)大會(huì)在西南交通大學(xué)隆重召開[J];學(xué)術(shù)動(dòng)態(tài)報(bào)道;1996年04期

8 彭宏,張素;帶有時(shí)滯的神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性[J];杭州大學(xué)學(xué)報(bào)(自然科學(xué)版);1997年04期

9 陳新,孫道恒,黃洪鐘;結(jié)構(gòu)分析有限元系統(tǒng)與神經(jīng)網(wǎng)絡(luò)[J];起重運(yùn)輸機(jī)械;1999年06期

10 成宇;神經(jīng)網(wǎng)絡(luò)是怎么搭建的?[J];百科知識(shí);2005年16期

相關(guān)會(huì)議論文 前10條

1 徐春玉;;基于泛集的神經(jīng)網(wǎng)絡(luò)的混沌性[A];1996中國(guó)控制與決策學(xué)術(shù)年會(huì)論文集[C];1996年

2 周樹德;王巖;孫增圻;孫富春;;量子神經(jīng)網(wǎng)絡(luò)[A];2003年中國(guó)智能自動(dòng)化會(huì)議論文集（上冊(cè)）[C];2003年

3 羅山;張琳;范文新;;基于神經(jīng)網(wǎng)絡(luò)和簡(jiǎn)單規(guī)劃的識(shí)別融合算法[A];2009系統(tǒng)仿真技術(shù)及其應(yīng)用學(xué)術(shù)會(huì)議論文集[C];2009年

4 郭愛克;馬盡文;丁康;;序言(二)[A];1999年中國(guó)神經(jīng)網(wǎng)絡(luò)與信號(hào)處理學(xué)術(shù)會(huì)議論文集[C];1999年

5 鐘義信;;知識(shí)論:神經(jīng)網(wǎng)絡(luò)的新機(jī)遇——紀(jì)念中國(guó)神經(jīng)網(wǎng)絡(luò)10周年[A];1999年中國(guó)神經(jīng)網(wǎng)絡(luò)與信號(hào)處理學(xué)術(shù)會(huì)議論文集[C];1999年

6 許進(jìn);保錚;;神經(jīng)網(wǎng)絡(luò)與圖論[A];1999年中國(guó)神經(jīng)網(wǎng)絡(luò)與信號(hào)處理學(xué)術(shù)會(huì)議論文集[C];1999年

7 金龍;朱詩(shī)武;趙成志;陳寧;;數(shù)值預(yù)報(bào)產(chǎn)品的神經(jīng)網(wǎng)絡(luò)釋用預(yù)報(bào)應(yīng)用[A];1999年中國(guó)神經(jīng)網(wǎng)絡(luò)與信號(hào)處理學(xué)術(shù)會(huì)議論文集[C];1999年

8 田金亭;;神經(jīng)網(wǎng)絡(luò)在中學(xué)生創(chuàng)造力評(píng)估中的應(yīng)用[A];第十二屆全國(guó)心理學(xué)學(xué)術(shù)大會(huì)論文摘要集[C];2009年

9 唐墨;王科俊;;自發(fā)展神經(jīng)網(wǎng)絡(luò)的混沌特性研究[A];2009年中國(guó)智能自動(dòng)化會(huì)議論文集（第七分冊(cè)）[南京理工大學(xué)學(xué)報(bào)（增刊）][C];2009年

10 張廣遠(yuǎn);萬(wàn)強(qiáng);曹海源;田方濤;;基于遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的故障診斷方法研究[A];第十二屆全國(guó)設(shè)備故障診斷學(xué)術(shù)會(huì)議論文集[C];2010年

相關(guān)重要報(bào)紙文章 前10條

1 美國(guó)明尼蘇達(dá)大學(xué)社會(huì)學(xué)博士 密西西比州立大學(xué)國(guó)家戰(zhàn)略規(guī)劃與分析研究中心資深助理研究員 陳心想;維護(hù)好創(chuàng)新的“神經(jīng)網(wǎng)絡(luò)硬件”[N];中國(guó)教師報(bào);2014年

2 盧業(yè)忠;腦控電腦 驚世駭俗[N];計(jì)算機(jī)世界;2001年

3 葛一鳴 路邊文;人工神經(jīng)網(wǎng)絡(luò)將大顯身手[N];中國(guó)紡織報(bào);2003年

4 中國(guó)科技大學(xué)計(jì)算機(jī)系　邢方亮;神經(jīng)網(wǎng)絡(luò)挑戰(zhàn)人類大腦[N];計(jì)算機(jī)世界;2003年

5 記者 孫剛;“神經(jīng)網(wǎng)絡(luò)”：打開復(fù)雜工藝“黑箱”[N];解放日?qǐng)?bào);2007年

6 本報(bào)記者 劉霞;美用DNA制造出首個(gè)人造神經(jīng)網(wǎng)絡(luò)[N];科技日?qǐng)?bào);2011年

7 健康時(shí)報(bào)特約記者　 張獻(xiàn)懷;干細(xì)胞移植：修復(fù)受損的神經(jīng)網(wǎng)絡(luò)[N];健康時(shí)報(bào);2006年

8 劉力;我半導(dǎo)體神經(jīng)網(wǎng)絡(luò)技術(shù)及應(yīng)用研究達(dá)國(guó)際先進(jìn)水平[N];中國(guó)電子報(bào);2001年

9 ;神經(jīng)網(wǎng)絡(luò)和模糊邏輯[N];世界金屬導(dǎo)報(bào);2002年

10 鄒麗梅 陳耀群;江蘇科大神經(jīng)網(wǎng)絡(luò)應(yīng)用研究通過鑒定[N];中國(guó)船舶報(bào);2006年

相關(guān)博士學(xué)位論文 前10條

1 楊旭華;神經(jīng)網(wǎng)絡(luò)及其在控制中的應(yīng)用研究[D];浙江大學(xué);2004年

2 李素芳;基于神經(jīng)網(wǎng)絡(luò)的無(wú)線通信算法研究[D];山東大學(xué);2015年

3 石艷超;憶阻神經(jīng)網(wǎng)絡(luò)的混沌性及幾類時(shí)滯神經(jīng)網(wǎng)絡(luò)的同步研究[D];電子科技大學(xué);2014年

4 王新迎;基于隨機(jī)映射神經(jīng)網(wǎng)絡(luò)的多元時(shí)間序列預(yù)測(cè)方法研究[D];大連理工大學(xué);2015年

5 付愛民;極速學(xué)習(xí)機(jī)的訓(xùn)練殘差、穩(wěn)定性及泛化能力研究[D];中國(guó)農(nóng)業(yè)大學(xué);2015年

6 李輝;基于粒計(jì)算的神經(jīng)網(wǎng)絡(luò)及集成方法研究[D];中國(guó)礦業(yè)大學(xué);2015年

7 王衛(wèi)蘋;復(fù)雜網(wǎng)絡(luò)幾類同步控制策略研究及穩(wěn)定性分析[D];北京郵電大學(xué);2015年

8 張海軍;基于云計(jì)算的神經(jīng)網(wǎng)絡(luò)并行實(shí)現(xiàn)及其學(xué)習(xí)方法研究[D];華南理工大學(xué);2015年

9 李艷晴;風(fēng)速時(shí)間序列預(yù)測(cè)算法研究[D];北京科技大學(xué);2016年

10 陳輝;多維超精密定位系統(tǒng)建模與控制關(guān)鍵技術(shù)研究[D];東南大學(xué);2015年

相關(guān)碩士學(xué)位論文 前10條

1 章穎;混合不確定性模塊化神經(jīng)網(wǎng)絡(luò)與高校效益預(yù)測(cè)的研究[D];華南理工大學(xué);2015年

2 賈文靜;基于改進(jìn)型神經(jīng)網(wǎng)絡(luò)的風(fēng)力發(fā)電系統(tǒng)預(yù)測(cè)及控制研究[D];燕山大學(xué);2015年

3 李慧芳;基于憶阻器的渦卷混沌系統(tǒng)及其電路仿真[D];西南大學(xué);2015年

4 陳彥至;神經(jīng)網(wǎng)絡(luò)降維算法研究與應(yīng)用[D];華南理工大學(xué);2015年

5 董哲康;基于憶阻器的組合電路及神經(jīng)網(wǎng)絡(luò)研究[D];西南大學(xué);2015年

6 武創(chuàng)舉;基于神經(jīng)網(wǎng)絡(luò)的遙感圖像分類研究[D];昆明理工大學(xué);2015年

7 李志杰;基于神經(jīng)網(wǎng)絡(luò)的上證指數(shù)預(yù)測(cè)研究[D];華南理工大學(xué);2015年

8 陳少吉;基于神經(jīng)網(wǎng)絡(luò)血壓預(yù)測(cè)研究與系統(tǒng)實(shí)現(xiàn)[D];華南理工大學(xué);2015年

9 張韜;幾類時(shí)滯神經(jīng)網(wǎng)絡(luò)穩(wěn)定性分析[D];渤海大學(xué);2015年

10 邵雪瑩;幾類時(shí)滯不確定神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析[D];渤海大學(xué);2015年

，

本文編號(hào)：1597959