近年來,稀疏多元邏輯回歸(Sparse Multinomial Logistic Regression,SMLR)因?yàn)榫哂性诜诸惖耐瑫r(shí)嵌入特征選擇的作用而被廣泛應(yīng)用于高光譜圖像分類、多類物體識(shí)別、疾病診斷等領(lǐng)域。由于SMLR目標(biāo)函數(shù)中含有?₁正則項(xiàng),導(dǎo)致無(wú)法直接求得解析解,因此通常采用迭代的方式對(duì)其進(jìn)行求解。SMLR問題最早采用迭代重加權(quán)最小二乘法(Iterative Reweighted Least Squares,IRLS)進(jìn)行求解,但其算法對(duì)特征維度和類別數(shù)較敏感。在處理高維數(shù)據(jù)集或者類別數(shù)較多的數(shù)據(jù)集時(shí),IRLS算法具有較高的計(jì)算復(fù)雜度,因此人們對(duì)于采用更高級(jí)的優(yōu)化算法求解SMLR的需求變得越來越迫切。為了提高串行求解SMLR的分類準(zhǔn)確率和求解速度,本文基于交替方向乘子法(Alternating Direction Multiplier Method,ADMM),設(shè)計(jì)并提出了快速稀疏多元邏輯回歸算法(Fast Sparse Multinomial Logistic Regression,FSMLR)。實(shí)驗(yàn)結(jié)果表明,FSMLR算法的分類準(zhǔn)確率在多個(gè)數(shù)據(jù)集上均...

【文章頁(yè)數(shù)】：64 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
abstract
注釋表
第1章 引言
    1.1 選題背景及意義
    1.2 國(guó)內(nèi)外研究現(xiàn)狀
        1.2.1 稀疏優(yōu)化問題
        1.2.2 分布式優(yōu)化問題
    1.3 論文研究?jī)?nèi)容
    1.4 論文的結(jié)構(gòu)安排
第2章 相關(guān)技術(shù)分析
    2.1 待求解問題介紹
    2.2 迭代軟閾值收縮算法
    2.3 快速自適應(yīng)收縮閾值法
        2.3.1 自適應(yīng)步長(zhǎng)目錄
        2.3.2 回溯線性搜索
        2.3.3 停止準(zhǔn)則
    2.4 交替方向乘子法
    2.5 本章小結(jié)
第3章 稀疏多元邏輯回歸串行求解算法
    3.1 迭代重加權(quán)最小二乘法
    3.2 快速稀疏多元邏輯回歸算法
        3.2.1 算法描述
    3.3 實(shí)驗(yàn)與結(jié)果分析
        3.3.1 實(shí)驗(yàn)設(shè)置
        3.3.2 優(yōu)化算法實(shí)驗(yàn)及分析
        3.3.3 傳統(tǒng)算法實(shí)驗(yàn)及分析
    3.4 本章小結(jié)
第4章 稀疏多元邏輯回歸并行求解算法
    4.1 稀疏多元邏輯回歸的一致性優(yōu)化求解
    4.2 多元稀疏邏輯回歸的共享優(yōu)化求解
    4.3 求解算法收斂性分析
    4.4 求解算法計(jì)算復(fù)雜度分析
    4.5 實(shí)驗(yàn)與結(jié)果分析
        4.5.1 實(shí)驗(yàn)設(shè)置
        4.5.2 樣本劃分實(shí)驗(yàn)及分析
        4.5.3 特征劃分實(shí)驗(yàn)及分析
        4.5.4 大規(guī)模算法實(shí)驗(yàn)及分析
    4.6 本章小結(jié)
第5章 總結(jié)與展望
    5.1 總結(jié)
    5.2 展望
參考文獻(xiàn)
致謝
攻讀碩士學(xué)位期間從事的科研工作及取得的成果



本文編號(hào)：3744688