天堂国产午夜亚洲专区-少妇人妻综合久久蜜臀-国产成人户外露出视频在线-国产91传媒一区二区三区

神威太湖之光加速計(jì)算在腦神經(jīng)網(wǎng)絡(luò)模擬中的應(yīng)用

發(fā)布時(shí)間:2022-01-16 19:32
  腦神經(jīng)網(wǎng)絡(luò)模擬是腦科學(xué)研究和理論驗(yàn)證的重要方法.為提高腦模擬速度,異構(gòu)加速已開始應(yīng)用于腦模擬.然而現(xiàn)有異構(gòu)加速腦模擬軟件均存在明顯的訪存性能和計(jì)算精度問(wèn)題.為此,本文基于神威太湖之光研發(fā)了腦模擬軟件SWsnn,確保了隨機(jī)訪存多發(fā)生在高速緩存中.為避免主存訪問(wèn)的隨機(jī)性,將頻繁出現(xiàn)隨機(jī)訪存且數(shù)據(jù)量較小的神經(jīng)元信息長(zhǎng)時(shí)間停留在局部存儲(chǔ)(LDM),同時(shí)將數(shù)據(jù)量很大的突觸連接數(shù)據(jù)存儲(chǔ)在主存,且盡可能連續(xù)訪問(wèn)主存.為避免可塑性導(dǎo)致的對(duì)突觸連接的隨機(jī)搜索,對(duì)脈沖時(shí)間依賴可塑性(STDP)算法采用需要前再更新的方法,以確保主存訪問(wèn)的連續(xù)性.為了提高腦模擬精度,設(shè)計(jì)環(huán)形緩沖和延遲傳送聯(lián)合應(yīng)用方法,以支持高精度時(shí)間步長(zhǎng)的腦模擬.在此基礎(chǔ)上,對(duì)SWsnn進(jìn)行向量化、訪存隱藏等優(yōu)化操作,計(jì)算性能進(jìn)一步提高約50%.SWsnn對(duì)104神經(jīng)元全連接網(wǎng)絡(luò)實(shí)現(xiàn)了生物實(shí)時(shí)模擬,比同等規(guī)模浮點(diǎn)計(jì)算能力GPU上運(yùn)行的CARLsim快10倍左右. 

【文章來(lái)源】:計(jì)算機(jī)學(xué)報(bào). 2020,43(06)北大核心EICSCD

【文章頁(yè)數(shù)】:13 頁(yè)

【部分圖文】:

神威太湖之光加速計(jì)算在腦神經(jīng)網(wǎng)絡(luò)模擬中的應(yīng)用


神經(jīng)元細(xì)胞和突觸[10]

函數(shù),脈沖時(shí)間,突觸,突觸可塑性


突觸可塑性是突觸屬性隨時(shí)間的改變,是實(shí)現(xiàn)腦神經(jīng)的學(xué)習(xí)和記憶的理論基礎(chǔ).其中,脈沖時(shí)間依賴可塑性(Spike-Timing Dependent Plasticity,STDP)是常用的腦模擬突觸可塑性模型,也是SNN常用的非監(jiān)督學(xué)習(xí)方法[15].STDP模型認(rèn)為突觸權(quán)重的改變與前后神經(jīng)元相對(duì)脈沖時(shí)間差有關(guān),圖2顯示了統(tǒng)計(jì)獲得的60對(duì)脈沖時(shí)間差與突觸權(quán)重改變量的關(guān)系[13].常規(guī)的權(quán)重改變量可以表示為[13]

脈沖,異構(gòu),權(quán)重,架構(gòu)


脈沖傳送延時(shí)

【參考文獻(xiàn)】:
期刊論文
[1]神經(jīng)元模型對(duì)比分析[J]. 徐泠風(fēng),李傳東,陳玲.  物理學(xué)報(bào). 2016(24)
[2]The Sunway Taihu Light supercomputer:system and applications[J]. Haohuan FU,Junfeng LIAO,Jinzhe YANG,Lanning WANG,Zhenya SONG,Xiaomeng HUANG,Chao YANG,Wei XUE,Fangfang LIU,Fangli QIAO,Wei ZHAO,Xunqiang YIN,Chaofeng HOU,Chenglong ZHANG,Wei GE,Jian ZHANG,Yangang WANG,Chunbo ZHOU,Guangwen YANG.  Science China(Information Sciences). 2016(07)



本文編號(hào):3593291

資料下載
論文發(fā)表

本文鏈接:http://sikaile.net/yixuelunwen/swyx/3593291.html


Copyright(c)文論論文網(wǎng)All Rights Reserved | 網(wǎng)站地圖 |

版權(quán)申明:資料由用戶7cc4e***提供,本站僅收錄摘要或目錄,作者需要?jiǎng)h除請(qǐng)E-mail郵箱bigeng88@qq.com