超參數(shù)自動(dòng)調(diào)優(yōu)算法研究
發(fā)布時(shí)間:2023-01-28 10:38
當(dāng)下正處于人工智能(AI)在不斷發(fā)展進(jìn)步的時(shí)代,同時(shí)也是以大數(shù)據(jù)為基礎(chǔ)的時(shí)代。但是在面臨這樣一個(gè)數(shù)據(jù)爆炸增長(zhǎng)的大數(shù)據(jù)時(shí)代,如何合理的運(yùn)用這些數(shù)據(jù)使得我們的日常生活變得便捷智能,這就需要不斷提升的計(jì)算能力以及各種各樣的性能強(qiáng)大的算法來(lái)支持。比如當(dāng)下發(fā)展十分迅速的機(jī)器學(xué)習(xí)算法。但是,一個(gè)機(jī)器學(xué)習(xí)算法性能的好壞受到其自身的超參數(shù)的影響是很大的,因此,對(duì)于機(jī)器學(xué)習(xí)算法未來(lái)走向?qū)嵱?設(shè)計(jì)出一個(gè)超參數(shù)自動(dòng)調(diào)優(yōu)算法是有著非常重要的意義。目前已經(jīng)提出過(guò)很多的超參數(shù)自動(dòng)調(diào)優(yōu)的算法,比如基于不同代替函數(shù)的貝葉斯優(yōu)化算法,其中包括基于Tree Parzen Estimator(TPE)的Hyperopt框架、基于隨機(jī)森林Random Forest的SMAC框架以及還有基于高斯回歸過(guò)程的貝葉斯優(yōu)化算法等等。除此之外,還有很多通過(guò)各種進(jìn)化算法的思想,比如模擬退火算法、基因遺傳算法以及粒子群優(yōu)化算法等等,實(shí)現(xiàn)對(duì)機(jī)器學(xué)習(xí)模型的超參數(shù)優(yōu)化過(guò)程。但是上述算法都存在一定的缺點(diǎn),本文針對(duì)進(jìn)化調(diào)優(yōu)算法和貝葉斯優(yōu)化算法的缺點(diǎn)與不足分別提出了兩種超參數(shù)自動(dòng)調(diào)優(yōu)算法。首先第一個(gè)創(chuàng)新點(diǎn)是提出了一種與貝葉斯優(yōu)化同為數(shù)據(jù)驅(qū)動(dòng)優(yōu)化算法的基...
【文章頁(yè)數(shù)】:59 頁(yè)
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
ABSTRACT
第1章 緒論
1.1 研究背景與意義
1.2 研究現(xiàn)狀
1.3 本文的主要研究?jī)?nèi)容與組織結(jié)構(gòu)
1.3.1 本文的主要研究?jī)?nèi)容
1.3.2 本文的文章組織結(jié)構(gòu)
第2章 超參數(shù)優(yōu)化問(wèn)題和目標(biāo)模型選擇
2.1 超參數(shù)優(yōu)化問(wèn)題
2.2 機(jī)器學(xué)習(xí)的超參數(shù)優(yōu)化問(wèn)題表述
2.3 目標(biāo)模型選擇
2.3.1 常用ML模型
2.3.2 超參數(shù)調(diào)優(yōu)目標(biāo)模型選擇
2.4 本章小結(jié)
第3章 基于量子遺傳的超參數(shù)調(diào)優(yōu)算法
3.1 常用的優(yōu)化算法
3.1.1 進(jìn)化算法
3.2 基于量子遺傳的超參數(shù)自動(dòng)調(diào)優(yōu)算法
3.2.1 量子遺傳算法
3.2.2 基于量子遺傳的超參數(shù)自動(dòng)調(diào)優(yōu)算法
3.2.3 基于量子遺傳的超參數(shù)調(diào)優(yōu)算法的改進(jìn)及完善
3.3 實(shí)驗(yàn)
3.3.1 實(shí)驗(yàn)描述
3.3.2 實(shí)驗(yàn)結(jié)果
3.3.3 實(shí)驗(yàn)分析總結(jié)
3.4 本章小結(jié)
第4章 基于MARS回歸的超參數(shù)調(diào)優(yōu)算法
4.1 基于數(shù)據(jù)驅(qū)動(dòng)的優(yōu)化算法
4.2 貝葉斯優(yōu)化
4.2.1 高斯回歸過(guò)程GP
4.2.2 采集函數(shù)
4.2.3 算法步驟
4.3 基于MARS回歸的超參數(shù)調(diào)優(yōu)算法
4.3.1 MARS回歸算法
4.3.2 基于MARS回歸的超參數(shù)調(diào)優(yōu)算法
4.4 實(shí)驗(yàn)
4.4.1 實(shí)驗(yàn)過(guò)程及結(jié)果
4.4.2 實(shí)驗(yàn)分析總結(jié)
4.5 本章小結(jié)
結(jié)論
參考文獻(xiàn)
攻讀碩士學(xué)位期間發(fā)表的論文及其它成果
致謝
本文編號(hào):3732504
【文章頁(yè)數(shù)】:59 頁(yè)
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
ABSTRACT
第1章 緒論
1.1 研究背景與意義
1.2 研究現(xiàn)狀
1.3 本文的主要研究?jī)?nèi)容與組織結(jié)構(gòu)
1.3.1 本文的主要研究?jī)?nèi)容
1.3.2 本文的文章組織結(jié)構(gòu)
第2章 超參數(shù)優(yōu)化問(wèn)題和目標(biāo)模型選擇
2.1 超參數(shù)優(yōu)化問(wèn)題
2.2 機(jī)器學(xué)習(xí)的超參數(shù)優(yōu)化問(wèn)題表述
2.3 目標(biāo)模型選擇
2.3.1 常用ML模型
2.3.2 超參數(shù)調(diào)優(yōu)目標(biāo)模型選擇
2.4 本章小結(jié)
第3章 基于量子遺傳的超參數(shù)調(diào)優(yōu)算法
3.1 常用的優(yōu)化算法
3.1.1 進(jìn)化算法
3.2 基于量子遺傳的超參數(shù)自動(dòng)調(diào)優(yōu)算法
3.2.1 量子遺傳算法
3.2.2 基于量子遺傳的超參數(shù)自動(dòng)調(diào)優(yōu)算法
3.2.3 基于量子遺傳的超參數(shù)調(diào)優(yōu)算法的改進(jìn)及完善
3.3 實(shí)驗(yàn)
3.3.1 實(shí)驗(yàn)描述
3.3.2 實(shí)驗(yàn)結(jié)果
3.3.3 實(shí)驗(yàn)分析總結(jié)
3.4 本章小結(jié)
第4章 基于MARS回歸的超參數(shù)調(diào)優(yōu)算法
4.1 基于數(shù)據(jù)驅(qū)動(dòng)的優(yōu)化算法
4.2 貝葉斯優(yōu)化
4.2.1 高斯回歸過(guò)程GP
4.2.2 采集函數(shù)
4.2.3 算法步驟
4.3 基于MARS回歸的超參數(shù)調(diào)優(yōu)算法
4.3.1 MARS回歸算法
4.3.2 基于MARS回歸的超參數(shù)調(diào)優(yōu)算法
4.4 實(shí)驗(yàn)
4.4.1 實(shí)驗(yàn)過(guò)程及結(jié)果
4.4.2 實(shí)驗(yàn)分析總結(jié)
4.5 本章小結(jié)
結(jié)論
參考文獻(xiàn)
攻讀碩士學(xué)位期間發(fā)表的論文及其它成果
致謝
本文編號(hào):3732504
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/3732504.html
最近更新
教材專(zhuān)著