基于降噪自動(dòng)編碼器的多任務(wù)優(yōu)化算法
發(fā)布時(shí)間:2024-02-04 01:08
人類通?赏瑫r(shí)進(jìn)行多個(gè)任務(wù)的學(xué)習(xí),將從一個(gè)任務(wù)中獲得的知識(shí)應(yīng)用到另一個(gè)任務(wù)中以加速此任務(wù)的學(xué)習(xí).受此學(xué)習(xí)行為的啟發(fā),多任務(wù)學(xué)習(xí)(MTL)被提出并被廣泛研究.與MTL動(dòng)機(jī)類似,多任務(wù)優(yōu)化(MTO)是在傳統(tǒng)基于單任務(wù)優(yōu)化算法基礎(chǔ)上被提出的一種新型優(yōu)化算法,該算法旨在同時(shí)在線執(zhí)行多個(gè)任務(wù),從一個(gè)任務(wù)中獲取知識(shí)以幫助另一個(gè)任務(wù),并進(jìn)行任務(wù)間知識(shí)遷移,以提高多任務(wù)的優(yōu)化性能.基于降噪自動(dòng)編碼器提出了一種新型MTO算法,推演出一種具有閉式解的降噪自動(dòng)編碼器,并利用此編碼器顯式地對(duì)多任務(wù)構(gòu)建任務(wù)映射,從而使所提MTO算法能夠利用不同的基于單任務(wù)優(yōu)化算法的搜索偏好.采用常用的MTO基準(zhǔn)進(jìn)行綜合性實(shí)驗(yàn),驗(yàn)證了所提算法的有效性.
【文章頁(yè)數(shù)】:10 頁(yè)
【部分圖文】:
本文編號(hào):3894945
【文章頁(yè)數(shù)】:10 頁(yè)
【部分圖文】:
圖1Rastrigin′s函數(shù)和Sphere函數(shù)(c)
來(lái)說(shuō)更具挑戰(zhàn)性;圖1(b)的凸Sphere函數(shù)最簡(jiǎn)單;從圖1(c)中可以看出它們具有共同的全局最優(yōu).其中縱坐標(biāo)F1為目標(biāo)值,圖1(a)、(b)的x1、x2為搜索空間Xi的決策變量.因此,Sphere函數(shù)的優(yōu)化過(guò)程中找到的解可能有助于對(duì)復(fù)雜Rastrigin′s函數(shù)的優(yōu)化.(a)R....
圖2MTO算法的工作流程Fig.2WorkflowofMTOalgorithm
式(2)可被簡(jiǎn)化成式(3)所示的矩陣形式:Lsq(M)=12Ntr[(T-MS)T(T-MS)](3)其中tr(·)表示矩陣的跡,則式(3)的解可表示為普通最小二乘法[20]的閉式解:M=(TST)(SST)-1(4)4基于降噪自動(dòng)編碼器的MTO算法假設(shè)同時(shí)優(yōu)化兩個(gè)問(wèn)題P1、P2....
本文編號(hào):3894945
本文鏈接:http://sikaile.net/kejilunwen/sousuoyinqinglunwen/3894945.html
最近更新
教材專著