基于自適應(yīng)加權(quán)的多類線性判別分析降維算法研究
本文關(guān)鍵詞: 降維算法 Fisher準(zhǔn)則 線性判別分析 多類問題 自適應(yīng)加權(quán) 出處:《安徽大學(xué)》2017年碩士論文 論文類型:學(xué)位論文
【摘要】:隨著信息技術(shù)的發(fā)展,越來越多的應(yīng)用會(huì)采集并使用大量的高維數(shù)據(jù)來解決某些問題。數(shù)據(jù)的維度越高,所包含的信息量就越大,會(huì)方便我們使用和挖掘數(shù)據(jù)信息。但與此同時(shí),高維的特征空間會(huì)給數(shù)據(jù)處理帶來諸多不便,例如計(jì)算復(fù)雜、存儲量增加等等,甚至?xí)驗(yàn)樾畔⑷哂嗍箤?shí)驗(yàn)結(jié)果不理想。應(yīng)對此"維度災(zāi)難"帶來的諸多問題,降維算法變得尤為重要。降維算法是一種將高維數(shù)據(jù)降為低維數(shù)據(jù)的方法,通過該方法得到的數(shù)據(jù)在低維空間中既保留了主要的特征信息,又去除了冗余信息,提高了數(shù)據(jù)有效性,是一種非常經(jīng)典的機(jī)器學(xué)習(xí)方法。傳統(tǒng)的數(shù)據(jù)降維算法有線性判別分析(LDA)和主成分分析(PCA)等,這些經(jīng)典方法自提出以來被不斷地研究,發(fā)現(xiàn)其缺陷和不足,提出新的改進(jìn)思路,使降維技術(shù)更加精湛有效。本文主要針對LDA算法的缺陷,對于多類降維問題做了相應(yīng)的研究與改進(jìn)。LDA算法的目標(biāo)函數(shù)過于依賴大距離的類間距,使得小距離的類間距會(huì)被忽略,導(dǎo)致投影空間的類與類之間重疊增加。本文的算法主要解決此類問題。本文的主要貢獻(xiàn)點(diǎn)有:(1)本文提出一種基于柯西不等式的自適應(yīng)加權(quán)多類線性判別分析算法,該算法在傳統(tǒng)的線性判別分析算法的基礎(chǔ)上采用類對的距離計(jì)量方式,并用自適應(yīng)加權(quán)的方法解決LDA在多類問題中的重疊問題。(2)本文提出一種基于概率矩陣的自適應(yīng)加權(quán)多類線性判別分析方法,該方法對每個(gè)類對分別計(jì)算類間散度矩陣和類內(nèi)散度矩陣,并對每個(gè)類對的概率參數(shù)進(jìn)行加權(quán),通過自適應(yīng)加權(quán)使得投影空間中的類間距盡可能相等。相比于基于柯西不等式的自適應(yīng)加權(quán)多類線性判別分析算法,該方法增加了正則化項(xiàng)作為懲罰項(xiàng),通過參數(shù)調(diào)節(jié)使模型更優(yōu)。
[Abstract]:With the development of information technology, more and more applications will collect and use a lot of high-dimensional data to solve some problems. It makes it easier for us to use and mine data information, but at the same time, high-dimensional feature spaces can cause a lot of inconvenience to data processing, such as computational complexity, increased storage, and so on. Even because of the redundancy of information, the experimental results are not ideal. The dimensionality reduction algorithm is a method to reduce the high-dimensional data to low-dimensional data, which is especially important for the problems caused by the "dimensionality disaster". The data obtained by this method not only retain the main feature information in the low dimensional space, but also eliminate the redundant information, and improve the data validity. Traditional data dimensionality reduction algorithms include linear discriminant analysis (LDA) and principal component analysis (PCAA). These classical methods have been continuously studied since they were put forward. Aiming at the defects of LDA algorithm, this paper studies and improves the multiclass dimensionality reduction problem. The objective function of .LDA algorithm is too dependent on the class spacing of long distance, so that the small distance between classes will be ignored. The algorithm of this paper mainly solves this kind of problem. The main contribution of this paper is: (1) this paper proposes an adaptive weighted multiclass linear discriminant analysis algorithm based on Cauchy inequality. Based on the traditional linear discriminant analysis (LDA) algorithm, this algorithm adopts the distance metering method of class pairs. In this paper, an adaptive weighted multiclass linear discriminant analysis method based on probability matrix is proposed to solve the overlapping problem of LDA in multi-class problems. In this method, the inter-class divergence matrix and intra-class divergence matrix are calculated for each class pair, and the probability parameters of each class pair are weighted. Compared with the adaptive weighted multiclass discriminant analysis algorithm based on Cauchy inequality, the regularization term is added as the penalty term. The model is optimized by adjusting the parameters.
【學(xué)位授予單位】:安徽大學(xué)
【學(xué)位級別】:碩士
【學(xué)位授予年份】:2017
【分類號】:TP181
【相似文獻(xiàn)】
相關(guān)期刊論文 前10條
1 池磊;李文勇;;模糊數(shù)學(xué)和自適應(yīng)加權(quán)平均在多傳感器數(shù)據(jù)融合中的比較研究[J];裝備制造技術(shù);2012年12期
2 李大勇,王紅軍;基于時(shí)間序列的自適應(yīng)加權(quán)被動(dòng)定位[J];計(jì)算機(jī)仿真;2004年11期
3 陳曉娟;夏立;卜樂平;楊加軍;;自適應(yīng)加權(quán)融合算法在圖像型火災(zāi)探測系統(tǒng)中的應(yīng)用[J];艦船電子工程;2011年03期
4 肖軍,張石,徐心和;基于模糊組合變量的自適應(yīng)加權(quán)控制[J];控制與決策;2001年02期
5 梁毓明;徐立鴻;朱丙坤;;測距傳感器系統(tǒng)的測距數(shù)據(jù)在線自適應(yīng)加權(quán)融合[J];工業(yè)儀表與自動(dòng)化裝置;2009年05期
6 張陽;沈明霞;孫玉文;劉政;柏廣宇;;基于多傳感器自適應(yīng)加權(quán)融合的溫室信息系統(tǒng)[J];傳感器與微系統(tǒng);2014年06期
7 常瑞娜;穆曉敏;楊守義;齊林;;基于局部空間像素特征的自適應(yīng)加權(quán)濾波算法[J];計(jì)算機(jī)工程與應(yīng)用;2008年06期
8 陳曉云;胡運(yùn)發(fā);;基于自適應(yīng)加權(quán)的文本關(guān)聯(lián)分類[J];小型微型計(jì)算機(jī)系統(tǒng);2007年01期
9 鄭馳超;彭虎;韓志會(huì);;互相關(guān)自適應(yīng)加權(quán)的醫(yī)學(xué)超聲成像算法研究[J];物理學(xué)報(bào);2014年14期
10 關(guān)新平,劉冬,唐英干;基于可分離性判據(jù)的自適應(yīng)加權(quán)紋理圖像分割[J];計(jì)算機(jī)應(yīng)用研究;2005年11期
相關(guān)碩士學(xué)位論文 前8條
1 邵州華;多傳感器數(shù)據(jù)融合算法的研究與應(yīng)用[D];東北大學(xué);2013年
2 楊浩博;多外觀模型自適應(yīng)加權(quán)的粒子濾波目標(biāo)跟蹤算法研究[D];鄭州大學(xué);2016年
3 李培培;自適應(yīng)加權(quán)超寬帶能量檢測接收技術(shù)的研究[D];長安大學(xué);2016年
4 王松林;一種改進(jìn)的自適應(yīng)加權(quán)中值去噪算法的研究[D];武漢科技大學(xué);2016年
5 龍浩;用于不平衡分類問題的自適應(yīng)加權(quán)極限學(xué)習(xí)機(jī)研究[D];深圳大學(xué);2017年
6 何偉;基于自適應(yīng)加權(quán)的多類線性判別分析降維算法研究[D];安徽大學(xué);2017年
7 朱曉倩;自適應(yīng)加權(quán)平均濾波器權(quán)系數(shù)的選取[D];暨南大學(xué);2008年
8 姜濱;FSP近區(qū)段含水率預(yù)測算法及溫度自適應(yīng)加權(quán)融合方法研究[D];東北林業(yè)大學(xué);2010年
,本文編號:1529936
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/1529936.html