本文關(guān)鍵詞：基于非線(xiàn)性主元提取的增強(qiáng)型極限學(xué)習(xí)機(jī)模型及其在化工領(lǐng)域中的應(yīng)用，，由筆耕文化傳播整理發(fā)布。

【摘要】：很多領(lǐng)域已經(jīng)應(yīng)用了前饋型神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法,但是由于多數(shù)基于梯度下降的學(xué)習(xí)算法的參數(shù)需要進(jìn)行重復(fù)迭代訓(xùn)練,且算法很容易陷入局部最小值點(diǎn),使得多數(shù)基于梯度下降的學(xué)習(xí)算法不能滿(mǎn)足實(shí)際要求。針對(duì)單隱含層前饋神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)(SLFNs)存在的一些問(wèn)題,2005年,黃廣斌等人針對(duì)提出了一種新的學(xué)習(xí)算法。該算法針對(duì)解決傳統(tǒng)單隱含層前饋神經(jīng)網(wǎng)絡(luò)存在的上述問(wèn)題,并命名為極限學(xué)習(xí)機(jī)算法(簡(jiǎn)稱(chēng)為ELM)。極限學(xué)習(xí)機(jī)的網(wǎng)絡(luò)結(jié)構(gòu)由一個(gè)輸入層,單隱含層以及一個(gè)輸出層構(gòu)成。與其他的學(xué)習(xí)算法不同之處在于,ELM任意設(shè)定輸入權(quán)值和網(wǎng)絡(luò)隱含層節(jié)點(diǎn)閾值,然后通過(guò)Moore-Penrose廣義逆的求解方法求取網(wǎng)絡(luò)隱含層輸出矩陣,最終獲得連接網(wǎng)絡(luò)隱含層與網(wǎng)絡(luò)輸出層的權(quán)值。ELM學(xué)習(xí)算法除了預(yù)先設(shè)定網(wǎng)絡(luò)結(jié)構(gòu)外無(wú)需設(shè)定其他參數(shù),容易使用,且學(xué)習(xí)速度較傳統(tǒng)前饋學(xué)習(xí)算法快近幾千倍,除此之外,ELM學(xué)習(xí)算法具有良好的泛化性能。但是,隨著現(xiàn)代工業(yè)過(guò)程的越來(lái)越復(fù)雜,變量之間相互耦合,操作單元之間不獨(dú)立,使得工業(yè)數(shù)據(jù)呈現(xiàn)高維度,強(qiáng)相關(guān),高度非線(xiàn)性等特點(diǎn)。在處理復(fù)雜、大規(guī)模、非線(xiàn)性系統(tǒng)的建模任務(wù)時(shí),極限學(xué)習(xí)機(jī)需要較大規(guī)模才能滿(mǎn)足需求,實(shí)用性較差。針對(duì)該問(wèn)題,本文研究了基于主元分析的方法對(duì)輸入數(shù)據(jù)進(jìn)行降維處理,以達(dá)到簡(jiǎn)化網(wǎng)絡(luò)的目的,本論文主要分為以下兩方面：(1) 針對(duì)化工過(guò)程中的高維數(shù)據(jù)建模,對(duì)傳統(tǒng)的極限學(xué)習(xí)機(jī)做出改進(jìn),建立了基于主元分析方法的極限學(xué)習(xí)機(jī)改進(jìn)模型。極限學(xué)習(xí)機(jī)算法的研究中,發(fā)現(xiàn)在網(wǎng)絡(luò)的輸出矩陣H滿(mǎn)足列滿(mǎn)秩條件時(shí),連接網(wǎng)絡(luò)隱含層與網(wǎng)絡(luò)輸出層之問(wèn)的權(quán)值β才存在解。本文通過(guò)提取輸入信息中的主元變量,用提取的主元信息作為極限學(xué)習(xí)機(jī)模型的輸入,由此構(gòu)成了基于主元分析的極限學(xué)習(xí)機(jī)算法(PCA-ELM),以提高傳統(tǒng)的極限學(xué)習(xí)機(jī)在解決實(shí)際化工過(guò)程的高維數(shù)據(jù)建模問(wèn)題的能力。并通過(guò)UCI標(biāo)準(zhǔn)數(shù)據(jù)集Triazines數(shù)據(jù)集和Concrete Slump Test Data(CSTD)數(shù)據(jù)集進(jìn)行回歸測(cè)試,用Ionosphere數(shù)據(jù)集進(jìn)行分類(lèi)驗(yàn)證。用高密度聚乙烯聚合反應(yīng)過(guò)程(HDPE工藝流程)和二甲酸PTA工藝過(guò)程進(jìn)行仿真試驗(yàn)。改進(jìn)網(wǎng)絡(luò)模型的仿真結(jié)果與傳統(tǒng)的極限學(xué)習(xí)機(jī)算法仿真結(jié)果進(jìn)行了對(duì)比,對(duì)比結(jié)果表明改進(jìn)的極限學(xué)習(xí)算法模型具有模型結(jié)構(gòu)較為簡(jiǎn)單,建模精度更高,穩(wěn)定性更好等優(yōu)點(diǎn)。(2) 隨著現(xiàn)代化工過(guò)程越來(lái)越復(fù)雜,變量之間相關(guān)性較強(qiáng),模型的輸入變量與模型的輸出變量之間的關(guān)系通常呈現(xiàn)為強(qiáng)非線(xiàn)性的關(guān)系,而PCA從輸入數(shù)據(jù)中提取的為線(xiàn)性主元,限制了網(wǎng)絡(luò)的性能。為了提高極限學(xué)習(xí)機(jī)在復(fù)雜化工過(guò)程當(dāng)中的應(yīng)用能力,本文建立了基于非線(xiàn)性主元變量提取的增強(qiáng)型極限學(xué)習(xí)機(jī),模型沿用文獻(xiàn)中已有的正負(fù)屬性導(dǎo)向的輸入結(jié)構(gòu),然后采用輸入訓(xùn)練神經(jīng)網(wǎng)絡(luò)提取非線(xiàn)性主元變量,并將所提取的非線(xiàn)性信息輸入到網(wǎng)絡(luò)模型的輸出節(jié)點(diǎn)上,最終形成了基于非線(xiàn)性主元變量的增強(qiáng)型極限學(xué)習(xí)機(jī)(NPCs-IELM)模型。為了驗(yàn)證改進(jìn)模型的有效性,首先用UCI數(shù)據(jù)集Housing數(shù)據(jù)集進(jìn)行了驗(yàn)證,然后將改進(jìn)的模型用于化工仿真過(guò)程：田納西州伊士曼Tennessee Eastman (TE)過(guò)程以及高密度聚乙烯(HDPE)過(guò)程。將NPCs-IELM的驗(yàn)證結(jié)果與ELM, IELM, PCA-IELM以及Kernel-ELM進(jìn)行了對(duì)比,結(jié)果表明改進(jìn)的NPCs-IELM網(wǎng)絡(luò)模型更加穩(wěn)定,具有更高的精度。
【關(guān)鍵詞】：極限學(xué)習(xí)機(jī) 主元分析方法 輸入訓(xùn)練神經(jīng)網(wǎng)絡(luò) 過(guò)程建模
【學(xué)位授予單位】：北京化工大學(xué)
【學(xué)位級(jí)別】：碩士
【學(xué)位授予年份】：2016
【分類(lèi)號(hào)】：TQ015.9;TP18
【目錄】：

• 摘要4-7
• ABSTRACT7-14
• 第一章 緒論14-18
• 1.1 課題來(lái)源14
• 1.2 人工神經(jīng)網(wǎng)絡(luò)技術(shù)發(fā)展與現(xiàn)狀14-15
• 1.3 前饋神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法15-17
• 1.3.1 前饋神經(jīng)網(wǎng)絡(luò)概念15-16
• 1.3.2 單隱含層前饋神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法16-17
• 1.4 課題研究?jī)?nèi)容與創(chuàng)新17-18
• 第二章 極限學(xué)習(xí)機(jī)18-22
• 2.1 引言18
• 2.2 極限學(xué)習(xí)機(jī)18-19
• 2.2.1 極限學(xué)習(xí)機(jī)的基本概念18
• 2.2.2 極限學(xué)習(xí)機(jī)國(guó)內(nèi)外研究現(xiàn)狀18-19
• 2.3 極限學(xué)習(xí)機(jī)算法19-20
• 2.4 極限學(xué)習(xí)機(jī)算法流程圖20-21
• 2.5 極限學(xué)習(xí)機(jī)優(yōu)缺點(diǎn)21
• 2.6 本章小結(jié)21-22
• 第三章 基于主元分析的極限學(xué)習(xí)機(jī)學(xué)習(xí)算法22-36
• 3.1 引言22
• 3.2 主元分析方法簡(jiǎn)介22-23
• 3.3 基于PCA的ELM學(xué)習(xí)算法23-26
• 3.3.1 ELM算法研究23-24
• 3.3.2 基于PCA的ELM學(xué)習(xí)算法24-25
• 3.3.3 PCA-ELM模型的建模步驟25-26
• 3.4 實(shí)驗(yàn)驗(yàn)證26-34
• 3.4.1 用于回歸的數(shù)據(jù)驗(yàn)證26-32
• 3.4.2 用于分類(lèi)的數(shù)據(jù)集驗(yàn)證32-34
• 3.5 本章小結(jié)34-36
• 第四章 基于非線(xiàn)性主元提取的增強(qiáng)型極限學(xué)習(xí)機(jī)模型36-56
• 4.1 引言36-37
• 4.2 輸入訓(xùn)練神經(jīng)網(wǎng)絡(luò)37-39
• 4.2.1 非線(xiàn)性主元分析方法簡(jiǎn)介37
• 4.2.2 輸入訓(xùn)練神經(jīng)網(wǎng)絡(luò)37-39
• 4.3 基于非線(xiàn)性主元提取的增強(qiáng)型極限學(xué)習(xí)機(jī)模型的提出與建立39-42
• 4.4 實(shí)驗(yàn)驗(yàn)證42-54
• 4.4.1 Housing數(shù)據(jù)集43-46
• 4.4.2 TE過(guò)程數(shù)據(jù)集46-51
• 4.4.3 HDPE過(guò)程數(shù)據(jù)集51-54
• 4.5 本章小結(jié)54-56
• 第五章 總結(jié)與展望56-58
• 5.1 工作總結(jié)56-57
• 5.2 工作展望57-58
• 參考文獻(xiàn)58-62
• 致謝62-64
• 研究成果及發(fā)表的學(xué)術(shù)論文64-66
• 作者和導(dǎo)師簡(jiǎn)介66-68
• 附件68-69

【相似文獻(xiàn)】

中國(guó)期刊全文數(shù)據(jù)庫(kù) 前10條

1 王海清,蔣寧;主元空間中的故障重構(gòu)方法研究[J];化工學(xué)報(bào);2004年08期

2 王海清,余世明;基于故障診斷性能優(yōu)化的主元個(gè)數(shù)選取方法[J];化工學(xué)報(bào);2004年02期

3 王海清,蔣寧;主元空間中的故障分離與識(shí)別方法[J];化工學(xué)報(bào);2005年04期

4 趙忠蓋;劉飛;;工業(yè)過(guò)程核概率主元模型建立及監(jiān)控指標(biāo)[J];華東理工大學(xué)學(xué)報(bào)(自然科學(xué)版);2006年07期

5 李忠麗;孫宏飛;高鵬;燕友增;郭娜娜;;新型多主元高熵合金的研究進(jìn)展[J];新技術(shù)新工藝;2010年08期

6 張新榮;徐保國(guó);;基于主元空間數(shù)據(jù)重構(gòu)的傳感器故障識(shí)別及應(yīng)用[J];化工自動(dòng)化及儀表;2011年01期

7 肖應(yīng)旺;徐保國(guó);;基于改進(jìn)PCA的正常工況改變與過(guò)程故障識(shí)別方法[J];計(jì)算機(jī)與應(yīng)用化學(xué);2007年02期

8 黃曉霞;王晶;;稀疏矩陣求逆算法及其在微機(jī)上的實(shí)現(xiàn)[J];武鋼技術(shù);1991年09期

9 肖應(yīng)旺;姚美銀;;基于主元子空間故障重構(gòu)技術(shù)的故障診斷研究[J];計(jì)算機(jī)與應(yīng)用化學(xué);2008年01期

10 ;[J];;年期

中國(guó)碩士學(xué)位論文全文數(shù)據(jù)庫(kù) 前5條

1 郭家豪;基于可解釋變異性的主元選取方法[D];華北電力大學(xué)(北京);2016年

2 薛正林;基于主元加權(quán)的病態(tài)線(xiàn)性方程組算法研究[D];四川師范大學(xué);2016年

3 王曉;基于非線(xiàn)性主元提取的增強(qiáng)型極限學(xué)習(xí)機(jī)模型及其在化工領(lǐng)域中的應(yīng)用[D];北京化工大學(xué);2016年

4 劉偉鋒;水利水電工程施工系統(tǒng)分析與動(dòng)態(tài)模擬[D];西安理工大學(xué);2000年

5 劉志鵬;基于振動(dòng)信號(hào)的滾動(dòng)軸承狀態(tài)監(jiān)測(cè)與診斷方法研究[D];沈陽(yáng)航空航天大學(xué);2015年

  本文關(guān)鍵詞：基于非線(xiàn)性主元提取的增強(qiáng)型極限學(xué)習(xí)機(jī)模型及其在化工領(lǐng)域中的應(yīng)用，由筆耕文化傳播整理發(fā)布。

本文編號(hào)：504251