人類通�？赏瑫r進行多個任務的學習,將從一個任務中獲得的知識應用到另一個任務中以加速此任務的學習.受此學習行為的啟發(fā),多任務學習(MTL)被提出并被廣泛研究.與MTL動機類似,多任務優(yōu)化(MTO)是在傳統(tǒng)基于單任務優(yōu)化算法基礎上被提出的一種新型優(yōu)化算法,該算法旨在同時在線執(zhí)行多個任務,從一個任務中獲取知識以幫助另一個任務,并進行任務間知識遷移,以提高多任務的優(yōu)化性能.基于降噪自動編碼器提出了一種新型MTO算法,推演出一種具有閉式解的降噪自動編碼器,并利用此編碼器顯式地對多任務構建任務映射,從而使所提MTO算法能夠利用不同的基于單任務優(yōu)化算法的搜索偏好.采用常用的MTO基準進行綜合性實驗,驗證了所提算法的有效性.

【文章頁數(shù)】：10 頁

【部分圖文】：

圖１Ｒａｓｔｒｉｇｉｎ′ｓ函數(shù)和Ｓｐｈｅｒｅ函數(shù)（ｃ）

來說更具挑戰(zhàn)性；圖１（ｂ）的凸Ｓｐｈｅｒｅ函數(shù)最簡單；從圖１（ｃ）中可以看出它們具有共同的全局最優(yōu)．其中縱坐標Ｆ１為目標值，圖１（ａ）、（ｂ）的ｘ１、ｘ２為搜索空間Ｘｉ的決策變量．因此，Ｓｐｈｅｒｅ函數(shù)的優(yōu)化過程中找到的解可能有助于對復雜Ｒａｓｔｒｉｇｉｎ′ｓ函數(shù)的優(yōu)化．（ａ）Ｒ....

圖２ＭＴＯ算法的工作流程Ｆｉｇ．２ＷｏｒｋｆｌｏｗｏｆＭＴＯａｌｇｏｒｉｔｈｍ

式（２）可被簡化成式（３）所示的矩陣形式：Ｌｓｑ（Ｍ）＝１２Ｎｔｒ［（Ｔ－ＭＳ）Ｔ（Ｔ－ＭＳ）］（３）其中ｔｒ（·）表示矩陣的跡，則式（３）的解可表示為普通最小二乘法［２０］的閉式解：Ｍ＝（ＴＳＴ）（ＳＳＴ）－１（４）４基于降噪自動編碼器的ＭＴＯ算法假設同時優(yōu)化兩個問題Ｐ１、Ｐ２....

本文編號：3894945