人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Networks)是機(jī)器學(xué)習(xí)的一個(gè)分支,它是一種模仿生物行為特征的生物神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的數(shù)學(xué)模型。深度學(xué)習(xí)是在神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上發(fā)展而來的一種新的學(xué)習(xí)算法,其基本結(jié)構(gòu)是深度神經(jīng)網(wǎng)絡(luò)。粒子群優(yōu)化算法(PSO)是一種群體智能算法,可以對目標(biāo)進(jìn)行優(yōu)化。針對目前軟件實(shí)現(xiàn)的前饋神經(jīng)網(wǎng)絡(luò)和粒子群優(yōu)化算法存在的一些局限性(功耗、耗時(shí)和成本),本論文給出了一種基于FPGA實(shí)現(xiàn)的前饋神經(jīng)網(wǎng)絡(luò)和粒子群優(yōu)化算法的方法,其結(jié)構(gòu)上實(shí)現(xiàn)并行、流水線設(shè)計(jì)、模塊化設(shè)計(jì),使得基于FPGA實(shí)現(xiàn)的神經(jīng)網(wǎng)絡(luò)和PSO算法功耗更低、耗時(shí)更短、計(jì)算效率更高。本論文用FPGA設(shè)計(jì)與實(shí)現(xiàn)的前饋神經(jīng)網(wǎng)絡(luò)與粒子群優(yōu)化算法的方案主要貢獻(xiàn)包括以下幾點(diǎn)。(1)研究了用FPGA設(shè)計(jì)與實(shí)現(xiàn)BP神經(jīng)網(wǎng)絡(luò)的邏輯結(jié)構(gòu),其中采用模塊化編程,根據(jù)算法的原理設(shè)計(jì)電路結(jié)構(gòu),使得電路更加具有可移植性和可重配置性。系統(tǒng)設(shè)計(jì)中輸入層模塊到隱含層模塊和隱含層模塊到輸出層模塊多采用流水線結(jié)構(gòu),可以在一個(gè)時(shí)鐘周期下完成多個(gè)操作。隱含層模塊、輸出層模塊和權(quán)值、閾值更新模塊的數(shù)據(jù)計(jì)算實(shí)現(xiàn)并行,使得用FPGA設(shè)計(jì)的BP神經(jīng)網(wǎng)絡(luò)功耗更低、耗時(shí)更短和計(jì)算效率更高。(2)研究了用FPGA設(shè)計(jì)與實(shí)現(xiàn)卷積神經(jīng)網(wǎng)絡(luò)的邏輯結(jié)構(gòu)。用FPGA實(shí)現(xiàn)的卷積神經(jīng)網(wǎng)絡(luò)同樣采用模塊化的思想,可以便捷的改變網(wǎng)絡(luò)結(jié)構(gòu),即增加或減少層數(shù)。設(shè)計(jì)中卷積層模塊到池化層模塊、池化層模塊到全連接層模塊實(shí)現(xiàn)流水線操作,卷積層模塊、池化層模塊和全連接層模塊層內(nèi)實(shí)現(xiàn)并行,加快了卷積神經(jīng)網(wǎng)絡(luò)的計(jì)算。(3)研究了用FPGA設(shè)計(jì)與實(shí)現(xiàn)PSO算法的邏輯結(jié)構(gòu),PSO算法的FPGA設(shè)計(jì)與實(shí)現(xiàn)同樣使用模塊化的設(shè)計(jì),根據(jù)粒子的規(guī)模,并行產(chǎn)生該規(guī)模的粒子數(shù)據(jù),并行計(jì)算粒子的適應(yīng)度,這樣極大地縮短了計(jì)算時(shí)間,使得PSO算法在硬件上實(shí)現(xiàn)更加具有優(yōu)勢。本論文給出了一種基于FPGA實(shí)現(xiàn)的前饋神經(jīng)網(wǎng)絡(luò)與PSO算法的設(shè)計(jì)方案并在硬件上驗(yàn)證了該方案。實(shí)現(xiàn)的前饋神經(jīng)網(wǎng)絡(luò)和PSO算法具有可移植性、并行性、流水線操作,能夠方便的移植到其他網(wǎng)絡(luò)。相較于用軟件(MATLAB)實(shí)現(xiàn)的前饋神經(jīng)網(wǎng)絡(luò)和PSO算法而言,用FPGA實(shí)現(xiàn)其資源更少、功耗更低、耗時(shí)更短、計(jì)算效率更高和實(shí)時(shí)性更強(qiáng)。
【學(xué)位單位】：湖南師范大學(xué)
【學(xué)位級別】：碩士
【學(xué)位年份】：2019
【中圖分類】：TP18;TN791
【文章目錄】：
摘要
Abstract
第一章 緒論
    1.1 課題研究背景與意義
    1.2 相關(guān)技術(shù)的發(fā)展與研究現(xiàn)狀
    1.3 本課題的研究內(nèi)容
    1.4 論文結(jié)構(gòu)與工作安排
第二章 BP神經(jīng)網(wǎng)絡(luò)的FPGA設(shè)計(jì)與實(shí)現(xiàn)
    2.1 神經(jīng)網(wǎng)絡(luò)的基本概念
        2.1.1 BP神經(jīng)網(wǎng)絡(luò)的原理
        2.1.2 BP神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)流程
    2.2 BP神經(jīng)網(wǎng)絡(luò)的FPGA邏輯設(shè)計(jì)
        2.2.1 樣本的邏輯結(jié)構(gòu)設(shè)計(jì)
        2.2.2 BP神經(jīng)網(wǎng)絡(luò)的邏輯結(jié)構(gòu)設(shè)計(jì)
    2.3 FPGA實(shí)現(xiàn)BP神經(jīng)網(wǎng)絡(luò)實(shí)驗(yàn)分析
        2.3.1 實(shí)驗(yàn)的環(huán)境與平臺
        2.3.2 PMV指標(biāo)擬合實(shí)驗(yàn)
        2.3.3 正弦函數(shù)擬合實(shí)驗(yàn)
    2.4 本章小結(jié)
第三章 卷積神經(jīng)網(wǎng)絡(luò)算法的FPGA設(shè)計(jì)與實(shí)現(xiàn)
    3.1 深度神經(jīng)網(wǎng)絡(luò)的基本概念
    3.2 卷積神經(jīng)網(wǎng)絡(luò)的FPGA邏輯設(shè)計(jì)
        3.2.1 輸入圖片的邏輯結(jié)構(gòu)設(shè)計(jì)
        3.2.2 卷積神經(jīng)網(wǎng)絡(luò)（CNN）的邏輯結(jié)構(gòu)設(shè)計(jì)
    3.3 FPGA實(shí)現(xiàn)卷積神經(jīng)網(wǎng)絡(luò)實(shí)驗(yàn)分析
        3.3.1 實(shí)驗(yàn)的環(huán)境與平臺
        3.3.2 MNIST 庫手寫字體識別實(shí)驗(yàn)
    3.4 本章小結(jié)
第四章 粒子群優(yōu)化算法PSO的 FPGA設(shè)計(jì)與實(shí)現(xiàn)
    4.1 PSO算法的基本概念
        4.1.1 PSO算法的原理
        4.1.2 PSO算法的設(shè)計(jì)流程
    4.2 PSO算法的FPGA邏輯設(shè)計(jì)
        4.2.1 PSO算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的FPGA邏輯設(shè)計(jì)
        4.2.2 PSO算法的FPGA邏輯設(shè)計(jì)
    4.3 FPGA實(shí)現(xiàn)PSO算法實(shí)驗(yàn)分析
        4.3.1 實(shí)驗(yàn)的環(huán)境與平臺
        4.3.2 非線性函數(shù)尋優(yōu)實(shí)驗(yàn)
        4.3.3 PMV指標(biāo)擬合實(shí)驗(yàn)
    4.4 本章小結(jié)
第五章 FPGA實(shí)驗(yàn)與分析
    5.1 實(shí)驗(yàn)的環(huán)境與平臺
    5.2 FPGA實(shí)現(xiàn)前饋神經(jīng)網(wǎng)絡(luò)的實(shí)驗(yàn)與分析
        5.2.1 FPGA實(shí)現(xiàn)BP神經(jīng)網(wǎng)絡(luò)實(shí)驗(yàn)與分析
        5.2.2 FPGA實(shí)現(xiàn)卷積神經(jīng)網(wǎng)絡(luò)實(shí)驗(yàn)與分析
    5.3 FPGA實(shí)現(xiàn)PSO算法的實(shí)驗(yàn)與分析
    5.4 本章小結(jié)
第六章 總結(jié)與展望
    6.1 總結(jié)
    6.2 展望
參考文獻(xiàn)
附錄A （攻讀碩士學(xué)位期間取得的科研成果）
致謝

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 孫景文;常鮮戎;;基于高斯混沌粒子群優(yōu)化動態(tài)前饋神經(jīng)網(wǎng)絡(luò)的短期負(fù)荷預(yù)測[J];陜西電力;2015年09期

2 周小燕,徐晉;一種基于重置的變結(jié)構(gòu)前饋神經(jīng)網(wǎng)絡(luò)[J];南昌大學(xué)學(xué)報(bào)(理科版);2004年04期

3 彭娟,王方華,徐晉;基于熵方誤差的高斯牛頓前饋神經(jīng)網(wǎng)絡(luò)[J];系統(tǒng)工程理論方法應(yīng)用;2003年04期

4 徐善針,洛永平,崔榮一;三層前饋神經(jīng)網(wǎng)絡(luò)的異聯(lián)想算法[J];延邊大學(xué)學(xué)報(bào)(自然科學(xué)版);2001年04期

5 吳龍標(biāo),張本礦,連加銳;基于遺傳算法的前饋神經(jīng)網(wǎng)絡(luò)火災(zāi)探測[J];火災(zāi)科學(xué);1998年02期

6 張春雷,楊治國,龍偉;前饋神經(jīng)網(wǎng)絡(luò)開發(fā)工具的研究[J];四川聯(lián)合大學(xué)學(xué)報(bào)(工程科學(xué)版);1997年06期

7 江冰,張勇傳;改進(jìn)半前饋神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法[J];水電能源科學(xué);1997年02期

8 吳寧，李韌強(qiáng);分支前饋神經(jīng)網(wǎng)絡(luò)的研究[J];重慶大學(xué)學(xué)報(bào)(自然科學(xué)版);1995年03期

9 聞輝;嚴(yán)濤;李同彬;陳德禮;;典型前饋神經(jīng)網(wǎng)絡(luò)的研究現(xiàn)狀與分析[J];科技風(fēng);2019年17期

10 王士同;鐘富禮;蔣亦樟;;我們還需要前饋神經(jīng)網(wǎng)絡(luò)技術(shù)?[J];江南大學(xué)學(xué)報(bào)(自然科學(xué)版);2013年06期

相關(guān)博士學(xué)位論文 前10條

1 李鋒;前饋神經(jīng)網(wǎng)絡(luò)稀疏化的正則化方法[D];大連理工大學(xué);2018年

2 凌青華;基于粒子群優(yōu)化的隨機(jī)前饋神經(jīng)網(wǎng)絡(luò)的研究[D];江蘇大學(xué);2019年

3 王健;前饋神經(jīng)網(wǎng)絡(luò)梯度學(xué)習(xí)算法收斂性分析[D];大連理工大學(xué);2012年

4 侯木舟;基于構(gòu)造型前饋神經(jīng)網(wǎng)絡(luò)的函數(shù)逼近與應(yīng)用[D];中南大學(xué);2009年

5 Atlas Khan;神經(jīng)網(wǎng)絡(luò)的優(yōu)化與用于優(yōu)化的神經(jīng)網(wǎng)絡(luò)[D];大連理工大學(xué);2013年

6 范欽偉;帶光滑正則項(xiàng)前饋神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法的收斂性分析[D];大連理工大學(xué);2014年

7 許世剛;計(jì)算智能及其在水利水電工程中的應(yīng)用[D];河海大學(xué);2001年

8 付愛民;極速學(xué)習(xí)機(jī)的訓(xùn)練殘差、穩(wěn)定性及泛化能力研究[D];中國農(nóng)業(yè)大學(xué);2015年

9 賀彥林;前饋神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)研究及其復(fù)雜化工過程建模應(yīng)用[D];北京化工大學(xué);2016年

10 張會生;前饋神經(jīng)網(wǎng)絡(luò)梯度訓(xùn)練算法的幾個(gè)收斂性結(jié)果[D];大連理工大學(xué);2009年

相關(guān)碩士學(xué)位論文 前10條

1 李炎;前饋神經(jīng)網(wǎng)絡(luò)和粒子群優(yōu)化算法的FPGA設(shè)計(jì)與實(shí)現(xiàn)[D];湖南師范大學(xué);2019年

2 王子昊;基于前饋神經(jīng)網(wǎng)絡(luò)控制優(yōu)化城鎮(zhèn)污水處理廠生化單元性能研究[D];浙江大學(xué);2019年

3 石佳超;基于CMAQ與前饋神經(jīng)網(wǎng)絡(luò)的區(qū)域大氣污染物濃度快速響應(yīng)研究[D];浙江大學(xué);2019年

4 張維恒;基于毫米波光載無線通信系統(tǒng)的前饋神經(jīng)網(wǎng)絡(luò)信道均衡技術(shù)研究[D];北京郵電大學(xué);2018年

5 田金鵬;前饋神經(jīng)網(wǎng)絡(luò)在自適應(yīng)逆控制中的應(yīng)用研究[D];鄭州大學(xué);2005年

6 康艷旗;基于多層前饋神經(jīng)網(wǎng)絡(luò)盲均衡算法的研究[D];太原理工大學(xué);2007年

7 鄧維;基于單隱層前饋神經(jīng)網(wǎng)絡(luò)極限算法的高速公路工程投資估算模型研究[D];江西理工大學(xué);2017年

8 袁光耀;基于非線性濾波優(yōu)化的前饋神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法研究[D];河南大學(xué);2016年

9 呂俊;前饋神經(jīng)網(wǎng)絡(luò)參數(shù)和結(jié)構(gòu)的優(yōu)化策略研究[D];南京工業(yè)大學(xué);2004年

10 王磊;基于遺傳算法的前饋神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化[D];東北石油大學(xué);2013年

本文編號：2853412