針對深度學(xué)習(xí)模型的優(yōu)化問題研究
【學(xué)位授予單位】:中國科學(xué)技術(shù)大學(xué)
【學(xué)位級別】:博士
【學(xué)位授予年份】:2019
【分類號】:TP18
【圖文】:
般按照逐像素點的方式進行處理,而是關(guān)注于局部的一個小區(qū)域,這個小區(qū)域被逡逑稱為感受野(ReceptionFiled)。因此,生物的視覺系統(tǒng)對于自然圖像中的空間信息逡逑掌握的更充分。為了模擬這樣的系統(tǒng),卷積神經(jīng)網(wǎng)絡(luò)引人了卷積操作,如圖2.3所逡逑示。卷積操作帶有具有可學(xué)習(xí)參數(shù)的卷積核(圖2.3中卷積核參數(shù)都為1),其大小逡逑表示了單個視覺細胞的感受野區(qū)域大小。卷積核在輸人特征圖(Feature邋Map)上逡逑進行滑動,并將卷積窗內(nèi)的像素值與卷積核參數(shù)進行加權(quán)求和,得到下一層特征逡逑圖相對應(yīng)位置的像素值。卷積核在輸人特征圖上滑動的過程中,其參數(shù)保持不逡逑變,這稱之為局部參數(shù)共享。逡逑可以看出,經(jīng)過卷積操作后產(chǎn)生的新特征圖上每個點都包含了上一層特征逡逑圖中與該點位置相同的像素點及其周圍像素點的信息,因此卷積操作被認為是逡逑21逡逑
隨著互聯(lián)網(wǎng)時代的到來,數(shù)據(jù)量呈現(xiàn)指數(shù)級別的飛速增長。龐大的訓(xùn)練數(shù)據(jù)逡逑需要耗費大量的計算資源和訓(xùn)練時間,對傳統(tǒng)的優(yōu)化算法提出了非常大的挑戰(zhàn)。逡逑同時大規(guī)模訓(xùn)練數(shù)據(jù)的出現(xiàn)也驅(qū)使深度學(xué)習(xí)模型的尺寸繼續(xù)增長(如圖2.6),如逡逑2015年微軟研究院開發(fā)的LightLDA主題模型[91〗擁有超過200億個可學(xué)習(xí)參逡逑數(shù)。逡逑26逡逑
【相似文獻】
相關(guān)期刊論文 前10條
1 艾靜;熊建文;;基于學(xué)科交叉問題分析的高中小課題研究性學(xué)習(xí)模型構(gòu)建[J];物理通報;2017年07期
2 秦義;顧現(xiàn)朋;;基于云計算的大學(xué)生移動學(xué)習(xí)模型構(gòu)建[J];亞太教育;2016年31期
3 張鐳翕;趙鮮;魏玲;;基于交互認知復(fù)雜性學(xué)習(xí)模型的教學(xué)設(shè)計[J];中國教育信息化;2014年20期
4 王立華;;個性化學(xué)習(xí)模型的現(xiàn)實探索與未來展望——學(xué)習(xí)輔導(dǎo)之本:推薦個性化學(xué)習(xí)模型(下)[J];班主任之友(中學(xué)版);2016年12期
5 吳信東,熊范綸;多目標定值的一種權(quán)系數(shù)學(xué)習(xí)模型[J];信息與控制;1988年06期
6 沈玉紅;;“愛學(xué)習(xí)模型”對化學(xué)教學(xué)的啟示——基于問題驅(qū)動,提升學(xué)生自學(xué)能力[J];化學(xué)教學(xué);2015年07期
7 張鑫;孫力;田超;王文保;;大學(xué)化學(xué)云計算學(xué)習(xí)環(huán)境與協(xié)作學(xué)習(xí)模型的構(gòu)建[J];大學(xué)化學(xué);2017年03期
8 方向;盛群力;;“愛學(xué)習(xí)模型”的理論框架與特色[J];課程.教材.教法;2014年10期
9 郭煒穎;;初中數(shù)學(xué)智慧學(xué)習(xí)模型及支撐空間研究[J];考試周刊;2018年69期
10 涂陽軍;張曉明;;領(lǐng)域?qū)W習(xí)模型研究述評[J];高等工程教育研究;2007年06期
相關(guān)會議論文 前10條
1 劉金琨;侯伯巖;;高爐專家系統(tǒng)的自學(xué)習(xí)模型[A];1996中國控制與決策學(xué)術(shù)年會論文集[C];1996年
2 崔立輝;顧洋;陳杰;;一種基于ANFIS的再勵學(xué)習(xí)模型[A];第二十一屆中國控制會議論文集[C];2002年
3 李艷;郭朝珍;;多Agent系統(tǒng)中的語義學(xué)習(xí)模型[A];計算機與教育——全國計算機輔助教育學(xué)會第十二屆學(xué)術(shù)年會論文集[C];2005年
4 于順安;趙中華;;基于“智能”定義的學(xué)習(xí)模型[A];1995年中國智能自動化學(xué)術(shù)會議暨智能自動化專業(yè)委員會成立大會論文集(下冊)[C];1995年
5 朱新明;李亦菲;王吉慶;單俊;趙國梅;何偉;;基于示例演練學(xué)習(xí)模型的LEPS-CAI系統(tǒng)[A];多媒體與教育:計算機輔助教育的新進展——全國計算機輔助教育學(xué)會第七屆學(xué)術(shù)年會論文集[C];1995年
6 彭德正;;“學(xué)講”課堂:內(nèi)涵、特征及操作要義[A];2015年江蘇省小學(xué)深化課堂教學(xué)改革現(xiàn)場觀摩研討活動論文集[C];2015年
7 杜榮;楊天宇;;基于質(zhì)量的動態(tài)組織學(xué)習(xí)模型的實證研究[A];2002年中國管理科學(xué)學(xué)術(shù)會議論文集[C];2002年
8 林元慶;陳加良;;關(guān)于博弈學(xué)習(xí)模型的研究[A];2001年中國管理科學(xué)學(xué)術(shù)會議論文集[C];2001年
9 王鋒;;網(wǎng)絡(luò)環(huán)境下中小學(xué)生自主學(xué)習(xí)教學(xué)指導(dǎo)模式的探討[A];計算機與教育——全國計算機輔助教育學(xué)會第十二屆學(xué)術(shù)年會論文集[C];2005年
10 吳江;管曉宏;高峰;孫國基;;考慮風(fēng)險的發(fā)電商優(yōu)化報價學(xué)習(xí)模型[A];第二十四屆中國控制會議論文集(下冊)[C];2005年
相關(guān)重要報紙文章 前1條
1 本報記者 李佳師;英特爾人工智能戰(zhàn)略靠譜嗎?[N];中國電子報;2016年
相關(guān)博士學(xué)位論文 前10條
1 鄭書新;針對深度學(xué)習(xí)模型的優(yōu)化問題研究[D];中國科學(xué)技術(shù)大學(xué);2019年
2 趙振宇;偏微分方程學(xué)習(xí)模型的算法研究及其在圖像處理中的應(yīng)用[D];國防科學(xué)技術(shù)大學(xué);2016年
3 徐琴珍;樹型混合學(xué)習(xí)模型及其應(yīng)用研究[D];東南大學(xué);2006年
4 趙錚;初中數(shù)學(xué)智慧學(xué)習(xí)模型及支撐空間研究[D];東北師范大學(xué);2016年
5 吳濤;變構(gòu)學(xué)習(xí)模型研究[D];華東師范大學(xué);2010年
6 肖紅姍;面向風(fēng)險決策問題的集成學(xué)習(xí)模型與算法研究[D];重慶大學(xué);2017年
7 楊磊;基于改進群體智能算法的數(shù)據(jù)分類學(xué)習(xí)模型研究[D];華南農(nóng)業(yè)大學(xué);2016年
8 張克俊;基因表達式編程理論及其監(jiān)督機器學(xué)習(xí)模型研究[D];浙江大學(xué);2010年
9 陳凱;深度學(xué)習(xí)模型的高效訓(xùn)練算法研究[D];中國科學(xué)技術(shù)大學(xué);2016年
10 趙志剛;學(xué)習(xí)模型與資產(chǎn)市場[D];天津大學(xué);2010年
相關(guān)碩士學(xué)位論文 前10條
1 王鐵鵬;單交叉口配時優(yōu)化的函數(shù)逼近型強化學(xué)習(xí)模型[D];長沙理工大學(xué);2017年
2 王興;基于變構(gòu)學(xué)習(xí)模型的高中生物教學(xué)設(shè)計研究[D];曲阜師范大學(xué);2018年
3 馮云聰;宏表情到微表情的遷移學(xué)習(xí)模型研究[D];山東大學(xué);2018年
4 劉金來;深度學(xué)習(xí)模型在網(wǎng)絡(luò)流量分類中的應(yīng)用研究[D];哈爾濱理工大學(xué);2018年
5 馮洋;多標簽軟件行為學(xué)習(xí)模型及實現(xiàn)[D];南京大學(xué);2013年
6 張春雨;基于深度學(xué)習(xí)模型的證券價格預(yù)測實證研究[D];山西大學(xué);2018年
7 何清泉;基于公平思考的博弈學(xué)習(xí)模型及其實驗研究[D];中南大學(xué);2006年
8 史玉梅;分布式結(jié)對編程中的強化學(xué)習(xí)模型與干預(yù)策略研究[D];南京師范大學(xué);2013年
9 肖力維;組織學(xué)習(xí)模型的研究[D];華東師范大學(xué);2003年
10 祝軍;基于深度學(xué)習(xí)模型的圖像分類研究[D];寧波大學(xué);2015年
本文編號:2740525
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/2740525.html