人工神經(jīng)網(wǎng)絡(luò)是以數(shù)據(jù)驅(qū)動(dòng)的人工智能領(lǐng)域中一類信息處理模式。人工神經(jīng)網(wǎng)絡(luò)通過(guò)模擬生物神經(jīng)網(wǎng)絡(luò)的信號(hào)處理方式,在圖像識(shí)別、語(yǔ)音處理、機(jī)器翻譯等領(lǐng)域上取得了成功。然而,神經(jīng)網(wǎng)絡(luò)的性能極易受到網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)、連接權(quán)值等因素的影響。目前流行的神經(jīng)網(wǎng)絡(luò)層數(shù)較深,結(jié)構(gòu)相對(duì)復(fù)雜,人工設(shè)計(jì)深層的網(wǎng)絡(luò)需要調(diào)整大量的參數(shù)才能達(dá)到特定數(shù)據(jù)集上的最佳性能。因此,當(dāng)為不同數(shù)據(jù)構(gòu)建最優(yōu)架構(gòu)時(shí),需要設(shè)計(jì)者擁有一定的專業(yè)知識(shí)和經(jīng)驗(yàn)并需要花費(fèi)大量的時(shí)間和計(jì)算資源。鑒于此,人工神經(jīng)網(wǎng)絡(luò)架構(gòu)的自動(dòng)化設(shè)計(jì)成為亟待解決的問(wèn)題。人工神經(jīng)網(wǎng)絡(luò)可以看作是由大量的層和權(quán)值組成,而網(wǎng)絡(luò)中的層和權(quán)值的排列滿足一定的分布規(guī)則。為了將該分布規(guī)則用于神經(jīng)網(wǎng)絡(luò)架構(gòu)的演化,本文提出了一種新的生成最優(yōu)架構(gòu)的方法——基于進(jìn)化策略的神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索算法(ESAS)。它由一個(gè)雙層編碼表示方案和兩類分布學(xué)習(xí)策略——基于演化算子的概率分布學(xué)習(xí)策略和基于權(quán)值分布的性能排序策略組成。根據(jù)這兩種策略,在ESAE的基礎(chǔ)上,本文設(shè)計(jì)了基于演化算子概率分布學(xué)習(xí)策略的神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索(PDNAS)和基于權(quán)值分布性能排序的神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索(WDNAS)。ESAE不僅可以搜索最佳...

【文章頁(yè)數(shù)】：62 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
Abstract
第1章 緒論
    1.1 引言
    1.2 研究背景與意義
    1.3 國(guó)內(nèi)外研究現(xiàn)狀
        1.3.1 進(jìn)化算法
        1.3.2 基于進(jìn)化算法的網(wǎng)絡(luò)編碼研究現(xiàn)狀
    1.4 論文組織結(jié)構(gòu)及創(chuàng)新點(diǎn)
        1.4.1 組織結(jié)構(gòu)
        1.4.2 創(chuàng)新點(diǎn)
第2章 神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索研究綜述
    2.1 引言
    2.2 搜索空間研究現(xiàn)狀
    2.3 搜索策略研究現(xiàn)狀
    2.4 性能評(píng)估策略研究現(xiàn)狀
第3章 基于進(jìn)化策略的神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索
    3.1 引言
    3.2 雙層編碼表示方案
        3.2.1 基因類型編碼
        3.2.2 基因參數(shù)編碼
    3.3 基于進(jìn)化策略的神經(jīng)架構(gòu)搜索
    3.4 突變操作
        3.4.1 變異操作
        3.4.2 交叉操作
    3.5 基于演化操作的概率分布及其學(xué)習(xí)策略
    3.6 基于權(quán)值分布的性能排序
    3.7 基于權(quán)值分布性能排序的神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索
第4章 實(shí)驗(yàn)設(shè)計(jì)與結(jié)果分析
    4.1 引言
    4.2 實(shí)驗(yàn)設(shè)置
    4.3 PDNAS在 Fashion-MNIST數(shù)據(jù)集上的架構(gòu)搜索
    4.4 PDNAS在 CIFAR-10 數(shù)據(jù)集上的架構(gòu)搜索
    4.5 概率分布學(xué)習(xí)策略的比較
    4.6 PDNAS在 GSRs識(shí)別問(wèn)題的架構(gòu)搜索
        4.6.1 數(shù)據(jù)集
        4.6.2 實(shí)驗(yàn)設(shè)置
    4.7 WDNAS在 CIFAR-10 上的架構(gòu)搜索
第5章 總結(jié)與展望
    5.1 總結(jié)
    5.2 展望
參考文獻(xiàn)
作者簡(jiǎn)介及科研成果
致謝



本文編號(hào)：3792215