天堂国产午夜亚洲专区-少妇人妻综合久久蜜臀-国产成人户外露出视频在线-国产91传媒一区二区三区

神威太湖之光加速計算在腦神經網絡模擬中的應用

發(fā)布時間:2022-01-16 19:32
  腦神經網絡模擬是腦科學研究和理論驗證的重要方法.為提高腦模擬速度,異構加速已開始應用于腦模擬.然而現有異構加速腦模擬軟件均存在明顯的訪存性能和計算精度問題.為此,本文基于神威太湖之光研發(fā)了腦模擬軟件SWsnn,確保了隨機訪存多發(fā)生在高速緩存中.為避免主存訪問的隨機性,將頻繁出現隨機訪存且數據量較小的神經元信息長時間停留在局部存儲(LDM),同時將數據量很大的突觸連接數據存儲在主存,且盡可能連續(xù)訪問主存.為避免可塑性導致的對突觸連接的隨機搜索,對脈沖時間依賴可塑性(STDP)算法采用需要前再更新的方法,以確保主存訪問的連續(xù)性.為了提高腦模擬精度,設計環(huán)形緩沖和延遲傳送聯合應用方法,以支持高精度時間步長的腦模擬.在此基礎上,對SWsnn進行向量化、訪存隱藏等優(yōu)化操作,計算性能進一步提高約50%.SWsnn對104神經元全連接網絡實現了生物實時模擬,比同等規(guī)模浮點計算能力GPU上運行的CARLsim快10倍左右. 

【文章來源】:計算機學報. 2020,43(06)北大核心EICSCD

【文章頁數】:13 頁

【部分圖文】:

神威太湖之光加速計算在腦神經網絡模擬中的應用


神經元細胞和突觸[10]

函數,脈沖時間,突觸,突觸可塑性


突觸可塑性是突觸屬性隨時間的改變,是實現腦神經的學習和記憶的理論基礎.其中,脈沖時間依賴可塑性(Spike-Timing Dependent Plasticity,STDP)是常用的腦模擬突觸可塑性模型,也是SNN常用的非監(jiān)督學習方法[15].STDP模型認為突觸權重的改變與前后神經元相對脈沖時間差有關,圖2顯示了統(tǒng)計獲得的60對脈沖時間差與突觸權重改變量的關系[13].常規(guī)的權重改變量可以表示為[13]

脈沖,異構,權重,架構


脈沖傳送延時

【參考文獻】:
期刊論文
[1]神經元模型對比分析[J]. 徐泠風,李傳東,陳玲.  物理學報. 2016(24)
[2]The Sunway Taihu Light supercomputer:system and applications[J]. Haohuan FU,Junfeng LIAO,Jinzhe YANG,Lanning WANG,Zhenya SONG,Xiaomeng HUANG,Chao YANG,Wei XUE,Fangfang LIU,Fangli QIAO,Wei ZHAO,Xunqiang YIN,Chaofeng HOU,Chenglong ZHANG,Wei GE,Jian ZHANG,Yangang WANG,Chunbo ZHOU,Guangwen YANG.  Science China(Information Sciences). 2016(07)



本文編號:3593291

資料下載
論文發(fā)表

本文鏈接:http://sikaile.net/yixuelunwen/swyx/3593291.html


Copyright(c)文論論文網All Rights Reserved | 網站地圖 |

版權申明:資料由用戶7cc4e***提供,本站僅收錄摘要或目錄,作者需要刪除請E-mail郵箱bigeng88@qq.com