本文關鍵詞： 脊回歸 流形正則化 最優(yōu)間隔分布 間隔方差 全局結構　出處：《計算機研究與發(fā)展》2017年08期 　論文類型：期刊論文

【摘要】：脊回歸(ridge regression,RR)是經典的機器學習算法之一,廣泛應用于人臉識別、基因工程等諸多領域.其具有優(yōu)化目標凸、存在閉合解、可解釋性強以及易于核化等優(yōu)點,但是脊回歸的優(yōu)化目標并沒有考慮樣本之間的結構關系.監(jiān)督流形正則化學習是最具代表性的、最成功的脊回歸正則化方法之一,其通過最小化每類類內方差來考慮樣本之間的類內結構關系,可是單純地只考慮類內結構仍然不夠全面.以一種全新的視角重新審視最近提出的"最優(yōu)間隔分布學習"原理,發(fā)現(xiàn)了最優(yōu)間隔分布的目標可以同時優(yōu)化類內間隔方差和類間間隔方差,從而同時優(yōu)化了局部的類內結構和全局的類間結構.基于此提出了一種充分考慮數(shù)據結構化特征的脊回歸算法——最優(yōu)間隔分布脊回歸(optimal margin distributionmachine ridge regression,ODMRR)算法,該算法具有RR以及MRRR(manifold regularization ridge regression)的各種優(yōu)勢.最后通過實驗驗證了該方法具有優(yōu)越的性能.
[Abstract]:Ridge regression (RRR) is one of the classical machine learning algorithms, which is widely used in face recognition, genetic engineering and many other fields. There are some advantages such as closed solution, strong interpretability and easy to nucleate, but the optimization target of ridge regression does not take into account the structural relationship between samples. The supervised manifold regularization learning is the most representative. One of the most successful methods of ridge regression regularization is to minimize the intra-class variance of each class to consider the intra-class structural relationships between samples. However, it is still not comprehensive to consider only the intra-class structure. The recently proposed principle of "optimal interval distribution learning" is re-examined from a new perspective. It is found that the objective of optimal interval distribution can optimize both intra-class and inter-class interval variances. Therefore, the local intra-class structure and the global inter-class structure are optimized at the same time. Based on this, a ridge regression algorithm with optimal interval distribution is proposed, which takes full account of the structured features of the data. Optimal margin distributionmachine ridge regression. ODMRR algorithm. The algorithm has RR and MRRR(manifold regularization ridge regression. Finally, the advantages of this method are verified by experiments.
【作者單位】： 計算機軟件新技術國家重點實驗室(南京大學);軟件新技術與產業(yè)化協(xié)同創(chuàng)新中心;
【基金】：國家自然科學基金項目(61673201)~~
【分類號】：TP181
【正文快照】： (1)此類方法以往被稱為“大間隔分布學習”方法[17-18],但由于“間隔分布”本身并沒有“大小”之別,因此“最優(yōu)間隔分布”這個稱謂比“最大間隔分布”更合適[16].脊回歸(ridge regression,RR)[1]的優(yōu)化目標致力于最小化模型輸出以及樣本標記之間的二次誤差,在人臉識別[2]、基

【參考文獻】

相關期刊論文 前1條

1 羅四維;趙連偉;;基于譜圖理論的流形學習算法[J];計算機研究與發(fā)展;2006年07期

【共引文獻】

相關期刊論文 前10條

1 陳加略;姜遠;;最優(yōu)間隔分布脊回歸[J];計算機研究與發(fā)展;2017年08期

2 劉毛溪;萬鳴華;孫成立;王巧麗;;無監(jiān)督的稀疏差分嵌入特征提取方法[J];小型微型計算機系統(tǒng);2017年05期

3 劉毛溪;萬鳴華;孫成立;王巧麗;;基于最大邊界準則的稀疏局部嵌入特征提取方法[J];計算機應用研究;2017年05期

4 尹宏偉;李凡長;;譜機器學習研究綜述[J];計算機科學與探索;2015年12期

5 王洪波;羅賀;王曉佳;;基于流形學習的彩色遙感圖像分維數(shù)估算[J];中國圖象圖形學報;2015年08期

6 劉坤;李飚;曾祥鑫;;基于流形學習和支持向量機的太赫茲譜分類[J];計算機工程與應用;2015年24期

7 籍永建;王紅軍;;基于流形學習的轉子系統(tǒng)運行狀態(tài)識別理論研究[J];組合機床與自動化加工技術;2015年04期

8 仝一君;王力;;基于NPE算法的語音特征提取應用研究[J];通信技術;2014年11期

9 劉穎;魏麗娜;王殿偉;李大湘;;基于流形學習的車牌圖像超分辨率算法[J];西安郵電大學學報;2014年06期

10 王洪波;榮巖;羅賀;王曉佳;;基于流形學習的DNA序列數(shù)據挖掘方法研究[J];合肥工業(yè)大學學報(自然科學版);2014年08期

【二級參考文獻】

相關期刊論文 前3條

1 楊劍,李伏欣,王玨;一種改進的局部切空間排列算法[J];軟件學報;2005年09期

2 張振躍,查宏遠;線性低秩逼近與非線性降維[J];中國科學(A輯:數(shù)學);2005年03期

3 張軍平,王玨;主曲線研究綜述[J];計算機學報;2003年02期

【相似文獻】

相關期刊論文 前1條

1 顧亦然;李金發(fā);謝鴻飛;;陣發(fā)特性影響因素的研究[J];計算機技術與發(fā)展;2010年09期

相關重要報紙文章 前1條

1 本報實習生 馬燕 本報記者 吳紅梅;突破“圍城”醞釀騰飛新版圖[N];新華日報;2001年

相關碩士學位論文 前3條

1 史正謙;基于間隔分布優(yōu)化的大間隔分類器改進方法研究[D];吉林大學;2016年

2 陳加略;基于間隔分布的脊回歸和主動學習[D];南京大學;2016年

3 孫芳芳;移動互聯(lián)網主要數(shù)據業(yè)務的分布規(guī)律研究[D];北京郵電大學;2015年

，

本文編號：1467287