多目標(biāo)學(xué)習(xí)與優(yōu)化理論及應(yīng)用
發(fā)布時間:2021-02-18 08:57
隨著互聯(lián)網(wǎng)技術(shù)和信息技術(shù)的發(fā)展,機(jī)器學(xué)習(xí)技術(shù)在健康醫(yī)療,公共交通,在線購物,國家安全等方面都有著廣泛的應(yīng)用。近年來,學(xué)者們指出大部分機(jī)器學(xué)習(xí)問題擁有多個目標(biāo)。例如,在監(jiān)督分類中,既希望分類模型在訓(xùn)練集上的誤差最小又希望模型具有好的泛化性能。傳統(tǒng)機(jī)器學(xué)習(xí)技術(shù)通常將若干個目標(biāo)加權(quán)聚合成一個目標(biāo)函數(shù),會面臨如何設(shè)計合適的正則項和如何選擇合適的正則參數(shù)的問題。進(jìn)化多目標(biāo)優(yōu)化不需要提前確定正則化參數(shù),旨在獲得一組非支配解。通過分析這些解,能夠從問題中提取知識然后做出決策,從而選出最終的滿意解。此外,機(jī)器學(xué)習(xí)技術(shù)也可以用來增強(qiáng)多目標(biāo)進(jìn)化算法。受多任務(wù)學(xué)習(xí)啟發(fā)的多任務(wù)優(yōu)化技術(shù)旨在利用相關(guān)任務(wù)的關(guān)聯(lián)信息來同時求解多個任務(wù)。本博士論文主要從優(yōu)化和學(xué)習(xí)兩個維度對進(jìn)化多目標(biāo)理論和應(yīng)用展開研究。一方面,將機(jī)器學(xué)習(xí)中的自步學(xué)習(xí)問題建模成多目標(biāo)優(yōu)化問題,并利用多目標(biāo)粒子群優(yōu)化算法進(jìn)行求解。另一方面,建立了一個進(jìn)化多任務(wù)框架,利用一個種群來同時優(yōu)化多個稀疏重建任務(wù)。主要研究內(nèi)容包括以下幾個部分:(1)自步學(xué)習(xí)在訓(xùn)練的過程中會先學(xué)習(xí)簡單的樣本,然后再將復(fù)雜的樣本添加到訓(xùn)練過程中。它使用一個權(quán)重向量來度量樣本的難易程度...
【文章來源】:西安電子科技大學(xué)陜西省 211工程院校 教育部直屬院校
【文章頁數(shù)】:160 頁
【學(xué)位級別】:博士
【文章目錄】:
摘要
ABSTRACT
符號對照表
縮略語對照表
第一章 緒論
1.1 研究背景與意義
1.2 基于進(jìn)化多目標(biāo)優(yōu)化的機(jī)器學(xué)習(xí)研究進(jìn)展和現(xiàn)狀
1.2.1 進(jìn)化多目標(biāo)機(jī)器學(xué)習(xí)的國內(nèi)外研究情況
1.2.2 自步學(xué)習(xí)的國內(nèi)外研究情況
1.3 基于機(jī)器學(xué)習(xí)的多目標(biāo)優(yōu)化研究進(jìn)展和現(xiàn)狀
1.3.1 基于學(xué)習(xí)的多目標(biāo)優(yōu)化的國內(nèi)外研究情況
1.3.2 進(jìn)化多任務(wù)優(yōu)化的國內(nèi)外研究情況
1.4 論文的組織結(jié)構(gòu)
第二章 基于分解多目標(biāo)優(yōu)化的自步學(xué)習(xí)算法
2.1 相關(guān)背景
2.1.1 基于分解的進(jìn)化多目標(biāo)優(yōu)化
2.1.2 自步學(xué)習(xí)的正則化理論
2.2 基于分解多目標(biāo)優(yōu)化的自步學(xué)習(xí)算法
2.2.1 多目標(biāo)模型
2.2.2 基于步長序列的分解
2.2.3 多目標(biāo)粒子群優(yōu)化
2.3 實驗對比研究
2.4 本章總結(jié)
第三章 基于改進(jìn)正則的自步學(xué)習(xí)算法
3.1 對數(shù)軟權(quán)重和混合權(quán)重方法的相關(guān)推導(dǎo)
3.2 多項式軟權(quán)重自步正則
3.3 理論證明
3.3.1 多項式自步函數(shù)滿足自步函數(shù)定義的三個條件
3.3.2 自步學(xué)習(xí)在多項式自步函數(shù)下的魯棒性說明
3.4 實驗對比研究
3.4.1 動作識別數(shù)據(jù)集實驗
3.4.2 事件檢測數(shù)據(jù)集實驗
3.5 本章總結(jié)
第四章 基于自步學(xué)習(xí)的遙感圖像變化檢測算法
4.1 基于自步學(xué)習(xí)的遙感圖像變化檢測方法
4.2 基于自步學(xué)習(xí)的支持向量機(jī)相關(guān)推導(dǎo)
4.3 基于自步學(xué)習(xí)的人工神經(jīng)網(wǎng)絡(luò)相關(guān)推導(dǎo)
4.4 實驗對比研究
4.5 本章總結(jié)
第五章 基于多任務(wù)學(xué)習(xí)啟發(fā)的多目標(biāo)稀疏優(yōu)化算法
5.1 相關(guān)背景
5.1.1 多任務(wù)學(xué)習(xí),多任務(wù)優(yōu)化與多目標(biāo)優(yōu)化
5.1.2 多任務(wù)環(huán)境下的多目標(biāo)優(yōu)化
5.2 基于多任務(wù)優(yōu)化的多目標(biāo)稀疏優(yōu)化算法
5.2.1 多任務(wù)稀疏重建模型
5.2.2 表示和初始化
5.2.3 任務(wù)內(nèi)和任務(wù)間的遺傳遷移
5.2.4 個體評價
5.3 實驗對比研究
5.4 本章總結(jié)
第六章 基于多任務(wù)優(yōu)化的多目標(biāo)高光譜解混算法
6.1 相關(guān)背景
6.1.1 混合光譜模型
6.1.2 稀疏解混模型
6.2 基于多任務(wù)優(yōu)化的多目標(biāo)高光譜解混算法
6.2.1 多目標(biāo)高光譜解混模型
6.2.2 多任務(wù)環(huán)境下的多目標(biāo)稀疏解混
6.3 實驗對比研究
6.3.1 模擬數(shù)據(jù)集實驗
6.3.2 標(biāo)準(zhǔn)數(shù)據(jù)集實驗
6.4 本章總結(jié)
第七章 總結(jié)與展望
7.1 論文工作總結(jié)
7.2 未來研究展望
參考文獻(xiàn)
致謝
作者簡介
【參考文獻(xiàn)】:
期刊論文
[1]基于自步學(xué)習(xí)的加權(quán)稀疏表示人臉識別方法[J]. 王學(xué)軍,王文劍,曹飛龍. 計算機(jī)應(yīng)用. 2017(11)
[2]分布估計算法研究進(jìn)展[J]. 王圣堯,王凌,方晨,許燁. 控制與決策. 2012(07)
[3]利用約束非負(fù)矩陣分解的高光譜解混算法[J]. 趙春暉,成寶芝,楊偉超. 哈爾濱工程大學(xué)學(xué)報. 2012(03)
[4]離散粒子群優(yōu)化算法研究綜述[J]. 郭文忠,陳國龍,陳振. 福州大學(xué)學(xué)報(自然科學(xué)版). 2011(05)
[5]高光譜遙感圖像光譜解混的獨立成分分析技術(shù)[J]. 羅文斐,鐘亮,張兵,高連如. 光譜學(xué)與光譜分析. 2010(06)
[6]基于多目標(biāo)聚類的用電集群特征屬性計算[J]. 劉友波,劉俊勇,趙巖,李磊,胥威汀,姚珺玉,侯賀飛. 電力系統(tǒng)自動化. 2009(19)
[7]基于多目標(biāo)規(guī)劃和支持向量機(jī)的企業(yè)信用評估模型[J]. 張目,周宗放. 中國軟科學(xué). 2009(04)
[8]進(jìn)化多目標(biāo)優(yōu)化算法研究[J]. 公茂果,焦李成,楊咚咚,馬文萍. 軟件學(xué)報. 2009(02)
[9]分布估計算法綜述[J]. 周樹德,孫增圻. 自動化學(xué)報. 2007(02)
博士論文
[1]基于分解的多目標(biāo)進(jìn)化算法研究[D]. 代才.西安電子科技大學(xué) 2014
碩士論文
[1]改進(jìn)的多目標(biāo)分布式估計算法在水火電系統(tǒng)負(fù)荷分配的應(yīng)用[D]. 許霞.西安電子科技大學(xué) 2013
本文編號:3039340
【文章來源】:西安電子科技大學(xué)陜西省 211工程院校 教育部直屬院校
【文章頁數(shù)】:160 頁
【學(xué)位級別】:博士
【文章目錄】:
摘要
ABSTRACT
符號對照表
縮略語對照表
第一章 緒論
1.1 研究背景與意義
1.2 基于進(jìn)化多目標(biāo)優(yōu)化的機(jī)器學(xué)習(xí)研究進(jìn)展和現(xiàn)狀
1.2.1 進(jìn)化多目標(biāo)機(jī)器學(xué)習(xí)的國內(nèi)外研究情況
1.2.2 自步學(xué)習(xí)的國內(nèi)外研究情況
1.3 基于機(jī)器學(xué)習(xí)的多目標(biāo)優(yōu)化研究進(jìn)展和現(xiàn)狀
1.3.1 基于學(xué)習(xí)的多目標(biāo)優(yōu)化的國內(nèi)外研究情況
1.3.2 進(jìn)化多任務(wù)優(yōu)化的國內(nèi)外研究情況
1.4 論文的組織結(jié)構(gòu)
第二章 基于分解多目標(biāo)優(yōu)化的自步學(xué)習(xí)算法
2.1 相關(guān)背景
2.1.1 基于分解的進(jìn)化多目標(biāo)優(yōu)化
2.1.2 自步學(xué)習(xí)的正則化理論
2.2 基于分解多目標(biāo)優(yōu)化的自步學(xué)習(xí)算法
2.2.1 多目標(biāo)模型
2.2.2 基于步長序列的分解
2.2.3 多目標(biāo)粒子群優(yōu)化
2.3 實驗對比研究
2.4 本章總結(jié)
第三章 基于改進(jìn)正則的自步學(xué)習(xí)算法
3.1 對數(shù)軟權(quán)重和混合權(quán)重方法的相關(guān)推導(dǎo)
3.2 多項式軟權(quán)重自步正則
3.3 理論證明
3.3.1 多項式自步函數(shù)滿足自步函數(shù)定義的三個條件
3.3.2 自步學(xué)習(xí)在多項式自步函數(shù)下的魯棒性說明
3.4 實驗對比研究
3.4.1 動作識別數(shù)據(jù)集實驗
3.4.2 事件檢測數(shù)據(jù)集實驗
3.5 本章總結(jié)
第四章 基于自步學(xué)習(xí)的遙感圖像變化檢測算法
4.1 基于自步學(xué)習(xí)的遙感圖像變化檢測方法
4.2 基于自步學(xué)習(xí)的支持向量機(jī)相關(guān)推導(dǎo)
4.3 基于自步學(xué)習(xí)的人工神經(jīng)網(wǎng)絡(luò)相關(guān)推導(dǎo)
4.4 實驗對比研究
4.5 本章總結(jié)
第五章 基于多任務(wù)學(xué)習(xí)啟發(fā)的多目標(biāo)稀疏優(yōu)化算法
5.1 相關(guān)背景
5.1.1 多任務(wù)學(xué)習(xí),多任務(wù)優(yōu)化與多目標(biāo)優(yōu)化
5.1.2 多任務(wù)環(huán)境下的多目標(biāo)優(yōu)化
5.2 基于多任務(wù)優(yōu)化的多目標(biāo)稀疏優(yōu)化算法
5.2.1 多任務(wù)稀疏重建模型
5.2.2 表示和初始化
5.2.3 任務(wù)內(nèi)和任務(wù)間的遺傳遷移
5.2.4 個體評價
5.3 實驗對比研究
5.4 本章總結(jié)
第六章 基于多任務(wù)優(yōu)化的多目標(biāo)高光譜解混算法
6.1 相關(guān)背景
6.1.1 混合光譜模型
6.1.2 稀疏解混模型
6.2 基于多任務(wù)優(yōu)化的多目標(biāo)高光譜解混算法
6.2.1 多目標(biāo)高光譜解混模型
6.2.2 多任務(wù)環(huán)境下的多目標(biāo)稀疏解混
6.3 實驗對比研究
6.3.1 模擬數(shù)據(jù)集實驗
6.3.2 標(biāo)準(zhǔn)數(shù)據(jù)集實驗
6.4 本章總結(jié)
第七章 總結(jié)與展望
7.1 論文工作總結(jié)
7.2 未來研究展望
參考文獻(xiàn)
致謝
作者簡介
【參考文獻(xiàn)】:
期刊論文
[1]基于自步學(xué)習(xí)的加權(quán)稀疏表示人臉識別方法[J]. 王學(xué)軍,王文劍,曹飛龍. 計算機(jī)應(yīng)用. 2017(11)
[2]分布估計算法研究進(jìn)展[J]. 王圣堯,王凌,方晨,許燁. 控制與決策. 2012(07)
[3]利用約束非負(fù)矩陣分解的高光譜解混算法[J]. 趙春暉,成寶芝,楊偉超. 哈爾濱工程大學(xué)學(xué)報. 2012(03)
[4]離散粒子群優(yōu)化算法研究綜述[J]. 郭文忠,陳國龍,陳振. 福州大學(xué)學(xué)報(自然科學(xué)版). 2011(05)
[5]高光譜遙感圖像光譜解混的獨立成分分析技術(shù)[J]. 羅文斐,鐘亮,張兵,高連如. 光譜學(xué)與光譜分析. 2010(06)
[6]基于多目標(biāo)聚類的用電集群特征屬性計算[J]. 劉友波,劉俊勇,趙巖,李磊,胥威汀,姚珺玉,侯賀飛. 電力系統(tǒng)自動化. 2009(19)
[7]基于多目標(biāo)規(guī)劃和支持向量機(jī)的企業(yè)信用評估模型[J]. 張目,周宗放. 中國軟科學(xué). 2009(04)
[8]進(jìn)化多目標(biāo)優(yōu)化算法研究[J]. 公茂果,焦李成,楊咚咚,馬文萍. 軟件學(xué)報. 2009(02)
[9]分布估計算法綜述[J]. 周樹德,孫增圻. 自動化學(xué)報. 2007(02)
博士論文
[1]基于分解的多目標(biāo)進(jìn)化算法研究[D]. 代才.西安電子科技大學(xué) 2014
碩士論文
[1]改進(jìn)的多目標(biāo)分布式估計算法在水火電系統(tǒng)負(fù)荷分配的應(yīng)用[D]. 許霞.西安電子科技大學(xué) 2013
本文編號:3039340
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/3039340.html
最近更新
教材專著