近幾十年來,人工智能得到了迅速的發(fā)展,而機器學習技術(shù)在其中扮演著重要的角色。傳統(tǒng)機器學習問題假設(shè)訓練數(shù)據(jù)和測試數(shù)據(jù)是服從獨立同分布的。然而,這種假設(shè)在許多真實世界應(yīng)用中可能不成立,即訓練數(shù)據(jù)（源領(lǐng)域數(shù)據(jù)）與測試數(shù)據(jù)（目標領(lǐng)域數(shù)據(jù)）分布不同,或者它們之間的特征空間是不同的。為了解決這一問題,遷移學習應(yīng)運而生并引起了學術(shù)界的廣泛關(guān)注。遷移學習旨在利用從一個或多個源領(lǐng)域中提取的知識來輔助目標領(lǐng)域的分類和預測任務(wù)�，F(xiàn)有大多數(shù)遷移學習研究工作是基于單一源領(lǐng)域的知識遷移,即單源遷移學習。這些工作在很多真實世界領(lǐng)域已經(jīng)取得了不錯的成果。然而,對于目標領(lǐng)域來說,單一源領(lǐng)域無法為其提供豐富、多視角的知識,即單源遷移學習存在信息不充分問題。為了解決這一問題,我們需要從多個源領(lǐng)域中提取知識進行遷移,即多源遷移學習。此外,在大數(shù)據(jù)時代,多源遷移學習在面對持續(xù)在線到來的新數(shù)據(jù)時,無法及時對新數(shù)據(jù)做出預測,即存在響應(yīng)不及時問題�；诖�,我們將多源遷移學習與在線學習相結(jié)合,研究在線多源遷移學習范式。本文面向多個源領(lǐng)域數(shù)據(jù)的分類和預測任務(wù),系統(tǒng)地研究了多源遷移學習的問題挑戰(zhàn)及其解決方案。本文的主要貢獻可以概括如下:1... 

【文章頁數(shù)】：124 頁

【學位級別】：博士

【文章目錄】：
摘要
Abstract
第一章 緒論
    1.1 研究背景與意義
    1.2 國內(nèi)外研究現(xiàn)狀
        1.2.1 遷移學習
        1.2.2 多源遷移學習
    1.3 研究思路與主要貢獻
    1.4 本文的組織結(jié)構(gòu)
第二章 基于最優(yōu)傳輸?shù)亩嘣催w移學習
    2.1 引言
    2.2 相關(guān)工作
        2.2.1 遷移學習
        2.2.2 最優(yōu)傳輸
    2.3 基于條件Wasserstein距離的領(lǐng)域注意力算法
        2.3.1 問題定義
        2.3.2 Wasserstein距離
        2.3.3 條件Wasserstein距離
        2.3.4 基于條件Wasserstein距離的領(lǐng)域注意力算法
        2.3.5 計算復雜度分析
    2.4 實驗結(jié)果與分析
        2.4.1 數(shù)據(jù)集描述
        2.4.2 對比方法
        2.4.3 有效性評估
        2.4.4 不同源領(lǐng)域數(shù)目的實驗結(jié)果對比
        2.4.5 高效性評估
        2.4.6 參數(shù)敏感度分析
    2.5 小結(jié)
第三章 基于特征選擇和最優(yōu)傳輸?shù)亩嘣催w移學習
    3.1 引言
    3.2 相關(guān)工作
        3.2.1 遷移學習
        3.2.2 最優(yōu)傳輸
        3.2.3 多源遷移學習
    3.3 基于特征選擇和Wasserstein距離的迭代改善算法
        3.3.1 問題定義
        3.3.2 方法概述
        3.3.3 基于特征選擇的子空間學習
        3.3.4 基于最優(yōu)傳輸?shù)倪w移權(quán)重學習
    3.4 實驗結(jié)果與分析
        3.4.1 數(shù)據(jù)集描述
        3.4.2 對比方法
        3.4.3 實驗結(jié)果與討論
        3.4.4 控制變量分析
        3.4.5 參數(shù)敏感度分析
        3.4.6 單源領(lǐng)域遷移與多源領(lǐng)域遷移對比
        3.4.7 算法收斂性分析
    3.5 小結(jié)
第四章 基于共現(xiàn)數(shù)據(jù)的在線多源異構(gòu)遷移學習
    4.1 引言
    4.2 相關(guān)工作
        4.2.1 在線學習
        4.2.2 遷移學習
    4.3 在線異構(gòu)知識傳遞方法
        4.3.1 問題定義與符號描述
        4.3.2 知識傳遞
        4.3.3 源領(lǐng)域數(shù)據(jù)和共現(xiàn)數(shù)據(jù)上的學習
        4.3.4 目標領(lǐng)域數(shù)據(jù)上的在線學習
    4.4 實驗結(jié)果與分析
        4.4.1 數(shù)據(jù)集描述
        4.4.2 對比方法
        4.4.3 實驗結(jié)果與分析
        4.4.4 高效性評估
        4.4.5 參數(shù)敏感度分析
    4.5 小結(jié)
第五章 基于集成策略的在線多源遷移學習
    5.1 引言
    5.2 相關(guān)工作
    5.3 問題定義和總體學習范式
    5.4 在線多源同構(gòu)遷移算法
        5.4.1 Hom OTLMS算法的學習步驟
        5.4.2 Hom OTLMS算法的偽代碼
        5.4.3 Hom OTLMS算法的理論分析
    5.5 在線多源異構(gòu)遷移算法
        5.5.1 Het OTLMS算法第一階段
        5.5.2 Het OTLMS算法第二階段
        5.5.3 Het OTLMS算法的偽代碼
        5.5.4 Het OTLMS算法的理論分析
    5.6 實驗結(jié)果與分析
        5.6.1 數(shù)據(jù)集描述
        5.6.2 對比方法
        5.6.3 新聞組數(shù)據(jù)集和情感分析數(shù)據(jù)集上的實驗結(jié)果
        5.6.4 多語言數(shù)據(jù)集上的實驗結(jié)果
        5.6.5 異構(gòu)設(shè)定下的實驗結(jié)果
        5.6.6 參數(shù)敏感度分析
        5.6.7 運行時間成本評估
    5.7 小結(jié)
總結(jié)與展望
    全文總結(jié)
    未來展望
參考文獻
攻讀博士學位期間取得的研究成果
致謝
附件



本文編號：3723670