在當(dāng)今的大數(shù)據(jù)時代,人們的生活方式發(fā)生了翻天覆地的變化,同時人們周圍的信息和數(shù)據(jù)也呈現(xiàn)出爆發(fā)式增長。在這樣的時代背景下,研究工作者們致力于探究快速、高效且精確的信息處理方式�；谌四X對外來輸入信息的處理模式,人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Networks,ANNs）在語音識別、手寫數(shù)字識別、人臉識別和混沌時間序列預(yù)測等高復(fù)雜度任務(wù)上體現(xiàn)出高精確度高效率的優(yōu)勢從而在人工智能領(lǐng)域大放異彩。作為一種新型的基于遞歸神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Networks,RNNs）的算法,儲備池計(jì)算（Reservoir Computing,RC）憑借其訓(xùn)練過程簡單等特點(diǎn)引發(fā)研究人員的廣泛關(guān)注。目前,為了節(jié)約成本,更便于RC系統(tǒng)的實(shí)際應(yīng)用,大量研究報(bào)告主要涉及到基于單個非線性節(jié)點(diǎn)加延遲反饋環(huán)結(jié)構(gòu)的延遲型儲備池計(jì)算（Delay-based Reservoir Computing,Delay-based RC）。特別地,由于具有較高的馳豫振蕩頻率,利用光反饋半導(dǎo)體激光器（Semiconductor Laser,SL）作為非線性節(jié)點(diǎn)來搭建RC系統(tǒng)能更快速地處理信息,備受人們青睞... 

【文章來源】：西南大學(xué)重慶市 211工程院校 教育部直屬院校

【文章頁數(shù)】：50 頁

【學(xué)位級別】：碩士

【部分圖文】：

前向神經(jīng)網(wǎng)絡(luò)(FNNs)拓?fù)浣Y(jié)構(gòu)圖

ralNetworks,RNNs)。其中，F(xiàn)NNs一般由三層構(gòu)成，分別稱之為輸入層、隱藏層和輸出層，其網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)示意圖如圖2.1所示。輸入層用來輸入待處理任務(wù)的數(shù)據(jù)，輸入的信息在隱藏層中完成轉(zhuǎn)換，最后在輸出層產(chǎn)生處理后的信號。由于FNNs內(nèi)部各節(jié)點(diǎn)之間無反饋連接，在這種情況下信號在傳播過程中不可能同時經(jīng)過同一個神經(jīng)元兩次，于是FNNs的輸出只依賴于當(dāng)前的數(shù)據(jù)輸入，從而該網(wǎng)絡(luò)不存在任何記憶能力，只能處理與時間無關(guān)的靜態(tài)任務(wù)。因此，F(xiàn)NNs也被稱作靜態(tài)神經(jīng)網(wǎng)絡(luò)。與FNNs相對應(yīng)，RNNs也被稱為動態(tài)神經(jīng)網(wǎng)絡(luò)，其網(wǎng)絡(luò)拓?fù)涫疽鈭D如圖2.2所示。顯然，RNNs內(nèi)部各節(jié)點(diǎn)之間或者節(jié)點(diǎn)內(nèi)部存在反饋連接，這樣的結(jié)構(gòu)導(dǎo)致系統(tǒng)的輸出除了依賴于當(dāng)前的輸入之外，還取決于之前的輸入。于是RNNs具有動態(tài)記憶能力，能處理時間序列預(yù)測和語音識別等與時間相關(guān)的任務(wù)。由于實(shí)際中大部分任務(wù)都涉及時間或與時間息息相關(guān)，這使得RNNs在實(shí)際應(yīng)用方面比FNNs更符合時代需求。圖2.1前向神經(jīng)網(wǎng)絡(luò)(FNNs)拓?fù)浣Y(jié)構(gòu)圖圖2.2遞歸神經(jīng)網(wǎng)絡(luò)(RNNs)拓?fù)浣Y(jié)構(gòu)圖

?連接權(quán)重可以隨機(jī)生成無需訓(xùn)練。就這個方面而言，ESNs和LSMs大大簡化了訓(xùn)練過程，減少了RNNs的計(jì)算成本，與此同時也提高了系統(tǒng)的運(yùn)行效率。從這一角度出發(fā)，2007年D.Verstraeten等人首次將ESNs和LSMs統(tǒng)一命名為儲備池計(jì)算(ReservoirComputing,RC)[8]。自此，RC這一概念由于具有較容易的訓(xùn)練過程和較高的計(jì)算效率，在人工智能領(lǐng)域光彩奪目，大放異彩，被廣泛應(yīng)用于語音識別[11,26,65-66]，手寫數(shù)字識別[67]，人臉識別，時間序列預(yù)測[6,30-33]，非線性信道均衡[36]和機(jī)器人控制等任務(wù)并取得了良好的處理效果。圖2.3傳統(tǒng)儲備池計(jì)算系統(tǒng)結(jié)構(gòu)示意圖傳統(tǒng)的RC系統(tǒng)一般由輸入層、儲備池層和輸出層構(gòu)成[12]，如圖2.3所示。該系統(tǒng)的信息或數(shù)據(jù)的處理過程如下所述：信息或數(shù)據(jù)經(jīng)由輸入層輸入到儲備池層，這一過程中輸入的信息或者數(shù)據(jù)帶有相應(yīng)的權(quán)重值，稱為輸入權(quán)重。儲備池層一般由成百上千個節(jié)點(diǎn)根據(jù)相應(yīng)的連接權(quán)重相互連接而成，信息或數(shù)據(jù)進(jìn)入該層后，各個節(jié)點(diǎn)便在輸入信號的激勵下產(chǎn)生暫態(tài)響應(yīng)，生成相應(yīng)的節(jié)點(diǎn)狀態(tài)，這些節(jié)點(diǎn)狀態(tài)便構(gòu)成一個高維狀態(tài)空間。每一個輸入信號在儲備池層內(nèi)由低維映射到高維狀態(tài)空間從而完成非線性轉(zhuǎn)換，由于經(jīng)非線性轉(zhuǎn)換后的輸入信息更容易被預(yù)測或者分類，RC處理復(fù)雜且困難的任務(wù)便顯得極為高效。除了信息或數(shù)據(jù)的輸入和儲備池層的非線性轉(zhuǎn)換之外，要想完成解決任務(wù)的目的，還需要輸出層的參與。對比圖2.2與2.3，輸出層的存在也使得RC與傳統(tǒng)的RNNs區(qū)別開來。在輸出層，之前提到的各節(jié)點(diǎn)的狀態(tài)被收集起來，再與經(jīng)訓(xùn)練過程得到的輸出權(quán)重加權(quán)求和

【參考文獻(xiàn)】：
期刊論文
[1]半導(dǎo)體激光器儲備池計(jì)算系統(tǒng)的工作點(diǎn)選取方法[J]. 花飛,方捻,王陸唐.  物理學(xué)報(bào). 2019(22)
[2]儲備池計(jì)算硬件實(shí)現(xiàn)方案研究進(jìn)展[J]. 李磊,方捻,王陸唐,黃肇明.  激光與光電子學(xué)進(jìn)展. 2017(08)
[3]基于偏振旋轉(zhuǎn)耦合1550nm垂直腔面發(fā)射激光器環(huán)形系統(tǒng)產(chǎn)生多路高質(zhì)量混沌信號[J]. 楊峰,唐曦,鐘祝強(qiáng),夏光瓊,吳正茂.  物理學(xué)報(bào). 2016(19)
[4]可變偏振光注入下1550nm垂直腔面發(fā)射激光器的偏振開關(guān)及雙穩(wěn)特性[J]. 陳俊,陳建軍,吳正茂,蔣波,夏光瓊.  物理學(xué)報(bào). 2016(16)
[5]回聲狀態(tài)網(wǎng)絡(luò)的研究進(jìn)展[J]. 羅熊,黎江,孫增圻.  北京科技大學(xué)學(xué)報(bào). 2012(02)

博士論文
[1]光注入及光電反饋垂直腔面發(fā)射激光器的非線性動力學(xué)特性研究[D]. 陳建軍.西南大學(xué) 2017

碩士論文
[1]基于光反饋混沌儲備池計(jì)算的分組頭識別研究[D]. 秦杰.大連理工大學(xué) 2017



本文編號：3311199