本文關(guān)鍵詞：基于FPGA的深度學習加速器設(shè)計與實現(xiàn)，由筆耕文化傳播整理發(fā)布。

【摘要】：近年來,隨著計算能力的劇增和學科技術(shù)相互滲透、不斷發(fā)展,機器學習漸漸被大眾所認知和接受,并逐漸出現(xiàn)在大眾生活中。無論是逛淘寶時物品推薦,汽車無人駕駛,還是轟動一時的人機圍棋大戰(zhàn)AlphaGo,機器學習讓人們感嘆科技力量的同時也改善了人們的日常生活。深度學習作為機器學習的新興領(lǐng)域,起源對人工神經(jīng)網(wǎng)絡(luò)的進一步研究,為生物科學和計算機科學相互交叉滲透的產(chǎn)物,其在處理復雜抽象的學習問題上有著出色表現(xiàn),也因此迅速在學術(shù)界和商業(yè)界風靡。然而,為了解決更加抽象、更加復雜的學習問題,深度學習的網(wǎng)絡(luò)規(guī)模在不斷增加,計算和數(shù)據(jù)的復雜也隨之劇增,比如Google Cat系統(tǒng)網(wǎng)絡(luò)具有10億左右個神經(jīng)元連接。如何高性能低能耗地實現(xiàn)深度學習相關(guān)算法,則成為科研機構(gòu)的研究熱點�，F(xiàn)場可編程門陣列FPGA作為常用的加速手段之一,具有高性能、低功耗、可編程等特點。本文采用FPGA設(shè)計針對深度學習通用計算部分的加速器,主要工作有：1)、分析深度神經(jīng)網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)的預(yù)測過程和訓練過程算法共性和特性,并以此為基礎(chǔ)設(shè)計FPGA運算單元,算法包括前向計算算法、本地預(yù)訓練算法和全局訓練算法。2)、根據(jù)FPGA資源情況設(shè)計基本運算單元,包括前向計算單元和權(quán)值更新運算單元。運算單元均進行可配置和流水線設(shè)計,在適應(yīng)不同規(guī)模深度學習神經(jīng)網(wǎng)絡(luò)的同時具有高吞吐率。3)、分析FPGA加速器的上層框架和數(shù)據(jù)通路,編寫linux操作系統(tǒng)下驅(qū)動程序以及面向上層用戶簡單易用的調(diào)用接口。4)、通過大量實驗測試分析影響加速器性能的各種因素,得到加速器的性能、能耗趨勢,使用測試數(shù)據(jù)集與CPU、GPU平臺進行性能、功率、能耗等參數(shù)對比,分析FPGA實現(xiàn)的優(yōu)劣性。
【關(guān)鍵詞】：深度學習 人工神經(jīng)網(wǎng)絡(luò) FPGA 預(yù)測過程 訓練過程 加速器 低功耗
【學位授予單位】：中國科學技術(shù)大學
【學位級別】：碩士
【學位授予年份】：2016
【分類號】：TP181
【目錄】：

• 摘要5-6
• ABSTRACT6-15
• 第1章 緒論15-19
• 1.1 課題背景及意義15-16
• 1.2 國內(nèi)外研究現(xiàn)狀16-17
• 1.2.1 加速技術(shù)16-17
• 1.2.2 研究現(xiàn)狀17
• 1.3 本文主要工作17-18
• 1.4 論文組織安排18-19
• 第2章 相關(guān)技術(shù)基礎(chǔ)19-35
• 2.1 深度學習的基本概念19-31
• 2.1.1 人工神經(jīng)網(wǎng)絡(luò)簡介19-21
• 2.1.2 深度學習簡介21-22
• 2.1.3 網(wǎng)絡(luò)拓撲結(jié)構(gòu)22-26
• 2.1.4 相關(guān)算法介紹26-31
• 2.2 軟硬件協(xié)同設(shè)計31-33
• 2.2.1 軟硬件協(xié)同計算模型31-32
• 2.2.2 設(shè)計流程32-33
• 2.3 硬件加速技術(shù)介紹33-34
• 2.4 本章小結(jié)34-35
• 第3章 加速器系統(tǒng)設(shè)計35-61
• 3.1 算法分析35-44
• 3.1.1 預(yù)測算法35-38
• 3.1.2 訓練算法38-42
• 3.1.3 關(guān)鍵技術(shù)分析42-44
• 3.2 加速器設(shè)計44-54
• 3.2.1 前向計算模塊45-52
• 3.2.2 權(quán)值更新模塊52-54
• 3.2.3 設(shè)計說明54
• 3.3 驅(qū)動及編程接口設(shè)計54-60
• 3.3.1 系統(tǒng)框架54-55
• 3.3.2 驅(qū)動程序設(shè)計55-57
• 3.3.3 調(diào)用接口API封裝57-60
• 3.4 本章小結(jié)60-61
• 第4章 實驗驗證和分析61-83
• 4.1 實驗環(huán)境介紹61-63
• 4.2 性能和能耗趨勢63-68
• 4.2.1 預(yù)測過程63-65
• 4.2.2 訓練過程65-68
• 4.3 性能分布68-79
• 4.3.1 預(yù)測過程70-73
• 4.3.2 訓練過程73-78
• 4.3.3 小結(jié)78-79
• 4.4 各模塊功耗及資源利用率79
• 4.5 誤差分析79-81
• 4.6 本章小結(jié)81-83
• 第5章 總結(jié)與展望83-85
• 5.1 工作總結(jié)83-84
• 5.2 存在問題和展望84-85
• 參考文獻85-89
• 致謝89-91
• 在讀期間參加的科研項目91-93
• 在讀期間發(fā)表的學術(shù)論文與取得的研究成果93

【相似文獻】

中國期刊全文數(shù)據(jù)庫 前10條

1 云中客;新的神經(jīng)網(wǎng)絡(luò)來自于仿生學[J];物理;2001年10期

2 唐春明,高協(xié)平;進化神經(jīng)網(wǎng)絡(luò)的研究進展[J];系統(tǒng)工程與電子技術(shù);2001年10期

3 李智;一種基于神經(jīng)網(wǎng)絡(luò)的煤炭調(diào)運優(yōu)化方法[J];長沙鐵道學院學報;2003年02期

4 程科,王士同,楊靜宇;新型模糊形態(tài)神經(jīng)網(wǎng)絡(luò)及其應(yīng)用研究[J];計算機工程與應(yīng)用;2004年21期

5 王凡,孟立凡;關(guān)于使用神經(jīng)網(wǎng)絡(luò)推定操作者疲勞的研究[J];人類工效學;2004年03期

6 周麗暉;從統(tǒng)計角度看神經(jīng)網(wǎng)絡(luò)[J];統(tǒng)計教育;2005年06期

7 趙奇 ,劉開第 ,龐彥軍;灰色補償神經(jīng)網(wǎng)絡(luò)及其應(yīng)用研究[J];微計算機信息;2005年14期

8 袁婷;;神經(jīng)網(wǎng)絡(luò)在股票市場預(yù)測中的應(yīng)用[J];軟件導刊;2006年05期

9 尚晉;楊有;;從神經(jīng)網(wǎng)絡(luò)的過去談科學發(fā)展觀[J];重慶三峽學院學報;2006年03期

10 楊鐘瑾;;神經(jīng)網(wǎng)絡(luò)的過去、現(xiàn)在和將來[J];青年探索;2006年04期

中國重要會議論文全文數(shù)據(jù)庫 前10條

1 徐春玉;;基于泛集的神經(jīng)網(wǎng)絡(luò)的混沌性[A];1996中國控制與決策學術(shù)年會論文集[C];1996年

2 周樹德;王巖;孫增圻;孫富春;;量子神經(jīng)網(wǎng)絡(luò)[A];2003年中國智能自動化會議論文集（上冊）[C];2003年

3 羅山;張琳;范文新;;基于神經(jīng)網(wǎng)絡(luò)和簡單規(guī)劃的識別融合算法[A];2009系統(tǒng)仿真技術(shù)及其應(yīng)用學術(shù)會議論文集[C];2009年

4 郭愛克;馬盡文;丁康;;序言(二)[A];1999年中國神經(jīng)網(wǎng)絡(luò)與信號處理學術(shù)會議論文集[C];1999年

5 鐘義信;;知識論:神經(jīng)網(wǎng)絡(luò)的新機遇——紀念中國神經(jīng)網(wǎng)絡(luò)10周年[A];1999年中國神經(jīng)網(wǎng)絡(luò)與信號處理學術(shù)會議論文集[C];1999年

6 許進;保錚;;神經(jīng)網(wǎng)絡(luò)與圖論[A];1999年中國神經(jīng)網(wǎng)絡(luò)與信號處理學術(shù)會議論文集[C];1999年

7 金龍;朱詩武;趙成志;陳寧;;數(shù)值預(yù)報產(chǎn)品的神經(jīng)網(wǎng)絡(luò)釋用預(yù)報應(yīng)用[A];1999年中國神經(jīng)網(wǎng)絡(luò)與信號處理學術(shù)會議論文集[C];1999年

8 田金亭;;神經(jīng)網(wǎng)絡(luò)在中學生創(chuàng)造力評估中的應(yīng)用[A];第十二屆全國心理學學術(shù)大會論文摘要集[C];2009年

9 唐墨;王科俊;;自發(fā)展神經(jīng)網(wǎng)絡(luò)的混沌特性研究[A];2009年中國智能自動化會議論文集（第七分冊）[南京理工大學學報（增刊）][C];2009年

10 張廣遠;萬強;曹海源;田方濤;;基于遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的故障診斷方法研究[A];第十二屆全國設(shè)備故障診斷學術(shù)會議論文集[C];2010年

中國重要報紙全文數(shù)據(jù)庫 前10條

1 美國明尼蘇達大學社會學博士 密西西比州立大學國家戰(zhàn)略規(guī)劃與分析研究中心資深助理研究員 陳心想;維護好創(chuàng)新的“神經(jīng)網(wǎng)絡(luò)硬件”[N];中國教師報;2014年

2 盧業(yè)忠;腦控電腦 驚世駭俗[N];計算機世界;2001年

3 葛一鳴 路邊文;人工神經(jīng)網(wǎng)絡(luò)將大顯身手[N];中國紡織報;2003年

4 中國科技大學計算機系　邢方亮;神經(jīng)網(wǎng)絡(luò)挑戰(zhàn)人類大腦[N];計算機世界;2003年

5 記者 孫剛;“神經(jīng)網(wǎng)絡(luò)”：打開復雜工藝“黑箱”[N];解放日報;2007年

6 本報記者 劉霞;美用DNA制造出首個人造神經(jīng)網(wǎng)絡(luò)[N];科技日報;2011年

7 健康時報特約記者　 張獻懷;干細胞移植：修復受損的神經(jīng)網(wǎng)絡(luò)[N];健康時報;2006年

8 劉力;我半導體神經(jīng)網(wǎng)絡(luò)技術(shù)及應(yīng)用研究達國際先進水平[N];中國電子報;2001年

9 ;神經(jīng)網(wǎng)絡(luò)和模糊邏輯[N];世界金屬導報;2002年

10 鄒麗梅 陳耀群;江蘇科大神經(jīng)網(wǎng)絡(luò)應(yīng)用研究通過鑒定[N];中國船舶報;2006年

中國博士學位論文全文數(shù)據(jù)庫 前10條

1 楊旭華;神經(jīng)網(wǎng)絡(luò)及其在控制中的應(yīng)用研究[D];浙江大學;2004年

2 李素芳;基于神經(jīng)網(wǎng)絡(luò)的無線通信算法研究[D];山東大學;2015年

3 石艷超;憶阻神經(jīng)網(wǎng)絡(luò)的混沌性及幾類時滯神經(jīng)網(wǎng)絡(luò)的同步研究[D];電子科技大學;2014年

4 王新迎;基于隨機映射神經(jīng)網(wǎng)絡(luò)的多元時間序列預(yù)測方法研究[D];大連理工大學;2015年

5 付愛民;極速學習機的訓練殘差、穩(wěn)定性及泛化能力研究[D];中國農(nóng)業(yè)大學;2015年

6 李輝;基于粒計算的神經(jīng)網(wǎng)絡(luò)及集成方法研究[D];中國礦業(yè)大學;2015年

7 王衛(wèi)蘋;復雜網(wǎng)絡(luò)幾類同步控制策略研究及穩(wěn)定性分析[D];北京郵電大學;2015年

8 張海軍;基于云計算的神經(jīng)網(wǎng)絡(luò)并行實現(xiàn)及其學習方法研究[D];華南理工大學;2015年

9 李艷晴;風速時間序列預(yù)測算法研究[D];北京科技大學;2016年

10 陳輝;多維超精密定位系統(tǒng)建模與控制關(guān)鍵技術(shù)研究[D];東南大學;2015年

中國碩士學位論文全文數(shù)據(jù)庫 前10條

1 章穎;混合不確定性模塊化神經(jīng)網(wǎng)絡(luò)與高校效益預(yù)測的研究[D];華南理工大學;2015年

2 賈文靜;基于改進型神經(jīng)網(wǎng)絡(luò)的風力發(fā)電系統(tǒng)預(yù)測及控制研究[D];燕山大學;2015年

3 李慧芳;基于憶阻器的渦卷混沌系統(tǒng)及其電路仿真[D];西南大學;2015年

4 陳彥至;神經(jīng)網(wǎng)絡(luò)降維算法研究與應(yīng)用[D];華南理工大學;2015年

5 董哲康;基于憶阻器的組合電路及神經(jīng)網(wǎng)絡(luò)研究[D];西南大學;2015年

6 武創(chuàng)舉;基于神經(jīng)網(wǎng)絡(luò)的遙感圖像分類研究[D];昆明理工大學;2015年

7 李志杰;基于神經(jīng)網(wǎng)絡(luò)的上證指數(shù)預(yù)測研究[D];華南理工大學;2015年

8 陳少吉;基于神經(jīng)網(wǎng)絡(luò)血壓預(yù)測研究與系統(tǒng)實現(xiàn)[D];華南理工大學;2015年

9 張韜;幾類時滯神經(jīng)網(wǎng)絡(luò)穩(wěn)定性分析[D];渤海大學;2015年

10 邵雪瑩;幾類時滯不確定神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析[D];渤海大學;2015年

  本文關(guān)鍵詞：基于FPGA的深度學習加速器設(shè)計與實現(xiàn)，，由筆耕文化傳播整理發(fā)布。

本文編號：376705