基于動(dòng)態(tài)精度近似計(jì)算的低功耗RNN加速器
發(fā)布時(shí)間:2023-06-04 03:22
近年來,遞歸神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network,RNN)在眾多人工智能領(lǐng)域都取得了優(yōu)異的成績(jī)。但大多數(shù)RNN模型對(duì)計(jì)算力的要求極高,無法部署在手機(jī)、嵌入式系統(tǒng)等移動(dòng)設(shè)備上,這阻礙了RNN運(yùn)用在生活化及商業(yè)化的領(lǐng)域,也是RNN應(yīng)用于物聯(lián)網(wǎng)領(lǐng)域的技術(shù)瓶頸。低功耗的RNN加速器可以推動(dòng)RNN在移動(dòng)設(shè)備領(lǐng)域的運(yùn)用,對(duì)物聯(lián)網(wǎng)的建設(shè)具有重大的意義。本文以低功耗RNN加速器為研究目標(biāo),創(chuàng)新性地提出了一種面向低功耗RNN加速器的動(dòng)態(tài)精度近似計(jì)算策略,并完成了基于動(dòng)態(tài)精度近似計(jì)算的低功耗RNN加速器設(shè)計(jì)。動(dòng)態(tài)精度近似計(jì)算策略分為算法和硬件兩個(gè)層面。在算法層面,本文在網(wǎng)絡(luò)級(jí)、幀級(jí)、連接級(jí)三個(gè)不同層次上分別提出了網(wǎng)絡(luò)級(jí)分級(jí)量化策略、幀級(jí)精度自適應(yīng)策略和連接級(jí)動(dòng)態(tài)剪枝策略。在硬件層面,本文提出了近似乘法策略,使用基于近似加法的動(dòng)態(tài)精度近似乘法器替代傳統(tǒng)乘法器;趧(dòng)態(tài)精度近似計(jì)算策略的低功耗RNN加速器計(jì)算陣列由動(dòng)態(tài)精度近似乘法器構(gòu)成,可拆分重構(gòu)為多種計(jì)算位寬的計(jì)算單元,擁有兩級(jí)計(jì)算精度可調(diào),并配置有多個(gè)不同功能的控制模塊以實(shí)現(xiàn)各層次動(dòng)態(tài)精度近似計(jì)算控制。實(shí)驗(yàn)證明本文所提出的動(dòng)態(tài)精度近...
【文章頁(yè)數(shù)】:71 頁(yè)
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
Abstract
第一章 緒論
1.1 課題研究背景
1.1.1 RNN
1.1.2 專用RNN加速器
1.2 國(guó)內(nèi)外研究現(xiàn)狀
1.3 設(shè)計(jì)內(nèi)容與指標(biāo)
1.4 本論文組織結(jié)構(gòu)
第二章 RNN介紹與分析
2.1 RNN基本原理
2.1.1 RNN前向算法
2.1.2 典型RNN介紹
2.2 RNN特性分析
2.2.1 RNN參數(shù)特性分析
2.2.2 RNN計(jì)算特性分析
2.3 RNN容錯(cuò)性分析
2.3.1 RNN參數(shù)冗余性
2.3.2 RNN數(shù)據(jù)特性
2.3.3 RNN計(jì)算容錯(cuò)性
2.4 本章小結(jié)
第三章 面向低功耗RNN加速器的動(dòng)態(tài)精度近似計(jì)算策略設(shè)計(jì)
3.1 算法級(jí)動(dòng)態(tài)精度近似計(jì)算策略設(shè)計(jì)
3.1.1 網(wǎng)絡(luò)級(jí)分級(jí)量化策略
3.1.2 幀級(jí)精度自適應(yīng)策略
3.1.3 連接級(jí)動(dòng)態(tài)剪枝策略
3.2 硬件級(jí)動(dòng)態(tài)精度近似計(jì)算策略設(shè)計(jì)
3.2.1 近似乘法方案介紹
3.2.2 基于對(duì)數(shù)原理的動(dòng)態(tài)精度近似乘法方案設(shè)計(jì)
3.2.3 基于近似加法的動(dòng)態(tài)精度近似乘法方案設(shè)計(jì)
3.2.4 近似乘法方案對(duì)比分析
3.3 本章小結(jié)
第四章 低功耗RNN加速器硬件架構(gòu)設(shè)計(jì)
4.1 動(dòng)態(tài)精度近似乘法器硬件設(shè)計(jì)
4.1.1 近似加法器設(shè)計(jì)與實(shí)現(xiàn)
4.1.2 動(dòng)態(tài)計(jì)算位寬設(shè)計(jì)
4.1.3 動(dòng)態(tài)計(jì)算精度設(shè)計(jì)
4.1.4 動(dòng)態(tài)精度近似乘法器的實(shí)現(xiàn)與性能評(píng)估
4.2 低功耗RNN加速器控制模塊設(shè)計(jì)
4.3 低功耗RNN加速器架構(gòu)設(shè)計(jì)
4.4 本章小結(jié)
第五章 性能驗(yàn)證與分析
5.1 動(dòng)態(tài)精度近似計(jì)算策略驗(yàn)證
5.2 低功耗RNN加速器性能評(píng)估
5.3 本章小結(jié)
第六章 總結(jié)與展望
6.1 總結(jié)
6.2 展望
致謝
參考文獻(xiàn)
作者簡(jiǎn)介
本文編號(hào):3830590
【文章頁(yè)數(shù)】:71 頁(yè)
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
Abstract
第一章 緒論
1.1 課題研究背景
1.1.1 RNN
1.1.2 專用RNN加速器
1.2 國(guó)內(nèi)外研究現(xiàn)狀
1.3 設(shè)計(jì)內(nèi)容與指標(biāo)
1.4 本論文組織結(jié)構(gòu)
第二章 RNN介紹與分析
2.1 RNN基本原理
2.1.1 RNN前向算法
2.1.2 典型RNN介紹
2.2 RNN特性分析
2.2.1 RNN參數(shù)特性分析
2.2.2 RNN計(jì)算特性分析
2.3 RNN容錯(cuò)性分析
2.3.1 RNN參數(shù)冗余性
2.3.2 RNN數(shù)據(jù)特性
2.3.3 RNN計(jì)算容錯(cuò)性
2.4 本章小結(jié)
第三章 面向低功耗RNN加速器的動(dòng)態(tài)精度近似計(jì)算策略設(shè)計(jì)
3.1 算法級(jí)動(dòng)態(tài)精度近似計(jì)算策略設(shè)計(jì)
3.1.1 網(wǎng)絡(luò)級(jí)分級(jí)量化策略
3.1.2 幀級(jí)精度自適應(yīng)策略
3.1.3 連接級(jí)動(dòng)態(tài)剪枝策略
3.2 硬件級(jí)動(dòng)態(tài)精度近似計(jì)算策略設(shè)計(jì)
3.2.1 近似乘法方案介紹
3.2.2 基于對(duì)數(shù)原理的動(dòng)態(tài)精度近似乘法方案設(shè)計(jì)
3.2.3 基于近似加法的動(dòng)態(tài)精度近似乘法方案設(shè)計(jì)
3.2.4 近似乘法方案對(duì)比分析
3.3 本章小結(jié)
第四章 低功耗RNN加速器硬件架構(gòu)設(shè)計(jì)
4.1 動(dòng)態(tài)精度近似乘法器硬件設(shè)計(jì)
4.1.1 近似加法器設(shè)計(jì)與實(shí)現(xiàn)
4.1.2 動(dòng)態(tài)計(jì)算位寬設(shè)計(jì)
4.1.3 動(dòng)態(tài)計(jì)算精度設(shè)計(jì)
4.1.4 動(dòng)態(tài)精度近似乘法器的實(shí)現(xiàn)與性能評(píng)估
4.2 低功耗RNN加速器控制模塊設(shè)計(jì)
4.3 低功耗RNN加速器架構(gòu)設(shè)計(jì)
4.4 本章小結(jié)
第五章 性能驗(yàn)證與分析
5.1 動(dòng)態(tài)精度近似計(jì)算策略驗(yàn)證
5.2 低功耗RNN加速器性能評(píng)估
5.3 本章小結(jié)
第六章 總結(jié)與展望
6.1 總結(jié)
6.2 展望
致謝
參考文獻(xiàn)
作者簡(jiǎn)介
本文編號(hào):3830590
本文鏈接:http://sikaile.net/kejilunwen/jisuanjikexuelunwen/3830590.html
最近更新
教材專著