邏輯回歸作為一個(gè)經(jīng)典的線性分類算法,其局限性在于不能作用于非線性數(shù)據(jù)集。目前常見的做法是將邏輯回歸算法與核方法相結(jié)合,通過將非線性數(shù)據(jù)映射到高維空間上,使其在這個(gè)高維空間中結(jié)構(gòu)化并線性可分。但是,隨著數(shù)據(jù)規(guī)模的不斷增大,核方法的使用越來越受限制,在大規(guī)模數(shù)據(jù)的情況下,存儲(chǔ)和計(jì)算核矩陣的開銷都非常的大。如何解決核矩陣的開銷問題,以及優(yōu)化分類算法的求解過程并提高其分類精確度都是目前亟待解決的問題。另外,為了將算法進(jìn)行實(shí)際應(yīng)用,本文設(shè)計(jì)并實(shí)現(xiàn)了一個(gè)遙感圖像分類系統(tǒng),并成功地將核邏輯回歸算法研究成果應(yīng)用到了遙感圖像分類中。本文主要研究?jī)?nèi)容和貢獻(xiàn)如下:1.提出了低秩近似核邏輯回歸算法。針對(duì)核方法會(huì)引入一個(gè)與數(shù)據(jù)規(guī)模成正相關(guān)的核矩陣從而導(dǎo)致算法時(shí)間開銷增加的問題。本文引入了低秩近似方法去近似求解核矩陣,不僅加速了核矩陣的求解,還通過低秩去掉了數(shù)據(jù)中的冗余信息,提高了分類精確度。同時(shí)還采用了快速對(duì)偶優(yōu)化算法進(jìn)行優(yōu)化求解,避免了核矩陣參與迭代運(yùn)算,進(jìn)一步減少了算法的時(shí)間開銷。2.提出了多核稀疏多元邏輯回歸算法。首先,考慮到核邏輯回歸算法普遍適用于二分類的問題,于是將其擴(kuò)充成了適用于多分類任務(wù)的核稀疏多... 

【文章來源】：重慶郵電大學(xué)重慶市

【文章頁(yè)數(shù)】：67 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
abstract
第1章 引言
    1.1 選題背景與研究意義
    1.2 國(guó)內(nèi)外研究現(xiàn)狀
        1.2.1 核方法的研究現(xiàn)狀
        1.2.2 核邏輯回歸算法的研究現(xiàn)狀
    1.3 論文主要研究?jī)?nèi)容
    1.4 論文的結(jié)構(gòu)安排
    1.5 本章小結(jié)
第2章 相關(guān)技術(shù)
    2.1 邏輯回歸算法
    2.2 稀疏多元邏輯回歸算法
    2.3 優(yōu)化算法
        2.3.1 梯度下降法
        2.3.2 牛頓迭代法
        2.3.3 快速對(duì)偶算法
    2.4 核方法
    2.5 低秩近似方法
    2.6 多核學(xué)習(xí)算法
    2.7 本章小結(jié)
第3章 低秩近似核邏輯回歸算法
    3.1 問題提出與研究思路
    3.2 低秩近似核邏輯回歸算法
        3.2.1 梯度下降法求解核邏輯回歸
        3.2.2 牛頓迭代法求解核邏輯回歸
        3.2.3 快速對(duì)偶算法
        3.2.4 快速對(duì)偶算法聯(lián)合低秩近似方法
        3.2.5 收斂性分析
    3.3 低秩近似聯(lián)合凸優(yōu)化算法
    3.4 實(shí)驗(yàn)與結(jié)果分析
        3.4.1 數(shù)據(jù)集介紹
        3.4.2 不同數(shù)據(jù)集實(shí)驗(yàn)結(jié)果對(duì)比
        3.4.3 實(shí)驗(yàn)結(jié)果分析
    3.5 本章小結(jié)
第4章 基于中心對(duì)齊多核學(xué)習(xí)的稀疏多元邏輯回歸算法
    4.1 問題提出與研究思路
    4.2 核稀疏多元邏輯回歸算法
        4.2.1 稀疏優(yōu)化算法
        4.2.2 核稀疏多元邏輯回歸優(yōu)化算法
    4.3 基于中心對(duì)齊的多核學(xué)習(xí)算法
        4.3.1 中心對(duì)齊定義
        4.3.2 內(nèi)核的線性組合
    4.4 多核稀疏多元邏輯回歸算法
    4.5 實(shí)驗(yàn)與結(jié)果分析
        4.5.1 實(shí)驗(yàn)設(shè)置
        4.5.2 不同數(shù)據(jù)集實(shí)驗(yàn)結(jié)果對(duì)比
        4.5.3 實(shí)驗(yàn)結(jié)果分析
    4.6 本章小結(jié)
第5章 遙感圖像分類系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)
    5.1 遙感圖像分類的一般過程
        5.1.1 遙感圖像地物表示與特征提取
        5.1.2 分類器訓(xùn)練與預(yù)測(cè)
    5.2 遙感圖像分類中存在的問題與解決方法
    5.3 系統(tǒng)需求分析
        5.3.1 軟硬件環(huán)境要求
        5.3.2 系統(tǒng)功能需求
    5.4 系統(tǒng)設(shè)計(jì)
        5.4.1 架構(gòu)設(shè)計(jì)
        5.4.2 功能模塊設(shè)計(jì)
    5.5 系統(tǒng)展示
        5.5.1 遙感圖像分類系統(tǒng)的界面展示
        5.5.2 遙感圖像分類結(jié)果及地物類別展示
    5.6 本章小結(jié)
第6章 總結(jié)與展望
    6.1 研究工作總結(jié)
    6.2 未來研究展望
參考文獻(xiàn)
致謝
攻讀碩士學(xué)位期間從事的科研工作及取得的成果


【參考文獻(xiàn)】：
期刊論文
[1]An Adaptive RBF Neural Network Control Method for a Class of Nonlinear Systems[J]. Hongjun Yang,Jinkun Liu.  IEEE/CAA Journal of Automatica Sinica. 2018(02)
[2]聯(lián)合核稀疏多元邏輯回歸和TV-L1錯(cuò)誤剔除的高光譜圖像分類算法[J]. 徐金環(huán),沈煜,劉鵬飛,肖亮.  電子學(xué)報(bào). 2018(01)
[3]基于Boosting框架的非稀疏多核學(xué)習(xí)方法[J]. 胡慶輝,李志遠(yuǎn).  計(jì)算機(jī)應(yīng)用研究. 2016(11)
[4]采用半定規(guī)劃多核SVM的語(yǔ)音情感識(shí)別[J]. 姜曉慶,夏克文,夏莘媛,祖寶開.  北京郵電大學(xué)學(xué)報(bào). 2015(S1)
[5]多核學(xué)習(xí)方法[J]. 汪洪橋,孫富春,蔡艷寧,陳寧,丁林閣.  自動(dòng)化學(xué)報(bào). 2010(08)



本文編號(hào)：3152214