基于無(wú)梯度進(jìn)化的神經(jīng)架構(gòu)搜索算法研究綜述
發(fā)布時(shí)間:2021-05-15 01:14
自動(dòng)化深度學(xué)習(xí)是目前深度學(xué)習(xí)領(lǐng)域的研究熱點(diǎn),神經(jīng)架構(gòu)搜索算法是實(shí)現(xiàn)自動(dòng)化深度學(xué)習(xí)的主要方法之一,該類(lèi)算法可以通過(guò)對(duì)搜索空間、搜索策略或優(yōu)化策略進(jìn)行不同定義來(lái)自動(dòng)設(shè)計(jì)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。闡述進(jìn)化算法和進(jìn)化神經(jīng)網(wǎng)絡(luò)的發(fā)展歷程,分類(lèi)介紹以進(jìn)化算法為搜索策略實(shí)現(xiàn)神經(jīng)架構(gòu)搜索的方法和過(guò)程,并比較基于進(jìn)化算法的不同神經(jīng)架構(gòu)搜索算法的特點(diǎn)和現(xiàn)狀,在此基礎(chǔ)上,對(duì)神經(jīng)架構(gòu)搜索算法的搜索空間、搜索策略以及算法的未來(lái)發(fā)展方向進(jìn)行探討和展望。
【文章來(lái)源】:計(jì)算機(jī)工程. 2020,46(09)北大核心CSCD
【文章頁(yè)數(shù)】:11 頁(yè)
【文章目錄】:
0 概述
1 神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索
2 進(jìn)化算法和進(jìn)化神經(jīng)網(wǎng)絡(luò)
2.1 進(jìn)化算法的發(fā)展
2.2 進(jìn)化神經(jīng)網(wǎng)絡(luò)
3 基于無(wú)梯度進(jìn)化的神經(jīng)架構(gòu)搜索算法
3.1 基于神經(jīng)元的神經(jīng)架構(gòu)搜索算法
3.1.1 神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)固定的方式
3.1.2 權(quán)重及其形態(tài)改變的方式
1)NEAT的基因編碼方式
2)NEAT的神經(jīng)網(wǎng)絡(luò)變異方式
3)NEAT的神經(jīng)網(wǎng)絡(luò)交叉方式
3.2 基于DNN的神經(jīng)架構(gòu)搜索算法
3.2.1 DeepNEAT算法
3.2.2 CoDeepNEAT算法
3.3基于CNN的神經(jīng)架構(gòu)搜索算法
3.3.1 Genetic CNN算法
1)Genetic CNN的編碼方式
2)Genetic CNN的進(jìn)化方式
3.3.2 CGP-CNN算法
1)CGP-CNN算法的節(jié)點(diǎn)類(lèi)型
2)CGP-CNN的編碼方式
3)CGP-CNN算法的進(jìn)化過(guò)程
3.4 基于進(jìn)化算法的NAS改進(jìn)
3.5 算法對(duì)比與分析
4 算法存在的問(wèn)題及其解決方案
5 結(jié)束語(yǔ)
【參考文獻(xiàn)】:
期刊論文
[1]圖像分割算法研究綜述[J]. 何俊,葛紅,王玉峰. 計(jì)算機(jī)工程與科學(xué). 2009(12)
本文編號(hào):3186663
【文章來(lái)源】:計(jì)算機(jī)工程. 2020,46(09)北大核心CSCD
【文章頁(yè)數(shù)】:11 頁(yè)
【文章目錄】:
0 概述
1 神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索
2 進(jìn)化算法和進(jìn)化神經(jīng)網(wǎng)絡(luò)
2.1 進(jìn)化算法的發(fā)展
2.2 進(jìn)化神經(jīng)網(wǎng)絡(luò)
3 基于無(wú)梯度進(jìn)化的神經(jīng)架構(gòu)搜索算法
3.1 基于神經(jīng)元的神經(jīng)架構(gòu)搜索算法
3.1.1 神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)固定的方式
3.1.2 權(quán)重及其形態(tài)改變的方式
1)NEAT的基因編碼方式
2)NEAT的神經(jīng)網(wǎng)絡(luò)變異方式
3)NEAT的神經(jīng)網(wǎng)絡(luò)交叉方式
3.2 基于DNN的神經(jīng)架構(gòu)搜索算法
3.2.1 DeepNEAT算法
3.2.2 CoDeepNEAT算法
3.3基于CNN的神經(jīng)架構(gòu)搜索算法
3.3.1 Genetic CNN算法
1)Genetic CNN的編碼方式
2)Genetic CNN的進(jìn)化方式
3.3.2 CGP-CNN算法
1)CGP-CNN算法的節(jié)點(diǎn)類(lèi)型
2)CGP-CNN的編碼方式
3)CGP-CNN算法的進(jìn)化過(guò)程
3.4 基于進(jìn)化算法的NAS改進(jìn)
3.5 算法對(duì)比與分析
4 算法存在的問(wèn)題及其解決方案
5 結(jié)束語(yǔ)
【參考文獻(xiàn)】:
期刊論文
[1]圖像分割算法研究綜述[J]. 何俊,葛紅,王玉峰. 計(jì)算機(jī)工程與科學(xué). 2009(12)
本文編號(hào):3186663
本文鏈接:http://sikaile.net/kejilunwen/sousuoyinqinglunwen/3186663.html
最近更新
教材專(zhuān)著