本文關鍵詞：基于GPU的并行線性判別分析算法研究

  更多相關文章： 線性判別分析算法 CPU-GPU異構計算 廣義特征問題

【摘要】：線性判別分析(Linear Discriminant Analysis,LDA)是模式識別中經(jīng)典的算法之一,在對數(shù)據(jù)進行特征提取的同時,能夠最大程度的保留原始數(shù)據(jù)的分類信息。隨著互聯(lián)網(wǎng)數(shù)據(jù)維度的增高和數(shù)據(jù)量的加大,LDA算法對計算速度、精度等方面有著更高的要求,傳統(tǒng)的基于單機多核CPU的并行計算模型已經(jīng)不能滿足計算速度方面的要求,并且計算代價過高。而近些年出現(xiàn)的GPU通用計算相比于傳統(tǒng)計算,擁有高并發(fā)、低功耗等優(yōu)點,本文結合GPU高性能硬件,提出了一種基于CPU-GPU異構計算的改進LDA算法,主要完成的工作如下:(1)本文提出了一種基于CPU-GPU異構計算的矩陣塊Hessenberg歸約算法。LDA算法的計算瓶頸之一是求解散度矩陣的廣義特征問題,而求解廣義特征問題的Hessenberg歸約算法步驟時間復雜度高,計算時間長;此外,Hessenberg歸約算法在矩陣分解與矩陣特征問題領域有著重要的意義,因此本文將該問題作為研究重點之一。本文將基于矩陣塊的Hessenberg歸約算法進行任務分解,采用CPU-GPU異構計算的方式,加速了LDA算法的廣義特征值求解過程。(2)本文針對廣義特征向量求解問題,提出了一種基于CPU-GPU異構計算的特征向量回溯算法。該算法包括兩個部分,一是由Hessenberg矩陣的特征向量回溯對稱矩陣的特征向量,而是由對稱矩陣特征向量回溯廣義特征向量,本文分別對這兩個部分進行了加速算法的設計。(3)除廣義特征值問題外,構建類間和類間散度矩陣也是LDA算法的計算瓶頸之一,本文針對該求解步驟,設計了基于CPU-GPU異構計算的加速算法。實驗表明,相比于單核CPU,本文提出的基于異構計算的改進算法有著最多102倍的加速比,而相比于八核CPU,該算法有著最多20倍的加速比。
【關鍵詞】：線性判別分析算法 CPU-GPU異構計算 廣義特征問題
【學位授予單位】：哈爾濱工業(yè)大學
【學位級別】：碩士
【學位授予年份】：2014
【分類號】：TP391.4;TP332
【目錄】：

• 摘要4-5
• ABSTRACT5-8
• 第1章 緒論8-15
• 1.1 研究背景和意義8-9
• 1.2 國內(nèi)外相關研究和綜述9-13
• 1.2.1 LDA算法的研究現(xiàn)狀10-12
• 1.2.2 廣義特征值并行化求解算法的研究現(xiàn)狀12-13
• 1.2.3 基于GPU高性能硬件并行計算的研究現(xiàn)狀13
• 1.3 本文的主要工作13-14
• 1.4 本文的組織結構14-15
• 第2章LDA算法及GPU相關技術15-27
• 2.1 引言15
• 2.2 LDA算法相關知識15-18
• 2.2.1 兩類線性判別分析15-17
• 2.2.2 多類線性判別分析17-18
• 2.3 求解對稱廣義特征值的QR算法18-23
• 2.3.1 廣義特征值的求解算法18-19
• 2.3.2 Hessenberg歸約算法與豪斯霍爾德變換19-21
• 2.3.3 Hessenberg矩陣特征值求解的QR算法21-23
• 2.4 GPU和CUDA相關技術23-26
• 2.5 本章小結26-27
• 第3章 基于CPU-GPU異構計算的廣義特征值及特征向量問題求解方法27-42
• 3.1 引言27
• 3.2 基于CPU-GPU異構計算的矩陣塊Hessenberg歸約算法27-33
• 3.2.1 基于矩陣塊的Hessenberg歸約算法27-30
• 3.2.2 算法的任務分解與分析30-31
• 3.2.3 基于CPU-GPU異構計算的異構調(diào)度算法的設計31-33
• 3.3 基于CPU-GPU異構計算的矩陣廣義特征向量算法設計33-36
• 3.4 實驗與分析36-41
• 3.4.1 實驗環(huán)境及實驗設計37-38
• 3.4.2 實驗結果及分析38-41
• 3.5 本章小結41-42
• 第4章 基于CPU-GPU異構計算的LDA算法實現(xiàn)42-53
• 4.1 引言42
• 4.2 基于CPU-GPU異構計算的LDA算法設計42-46
• 4.2.1 基于CPU-GPU異構計算的類內(nèi)和類間散度矩陣的構建42-44
• 4.2.2 基于CPU-GPU異構計算的LDA算法實現(xiàn)44-46
• 4.3 實驗與分析46-52
• 4.3.1 實驗環(huán)境與實驗設計46-47
• 4.3.2 實驗數(shù)據(jù)集描述47
• 4.3.3 實驗結果與分析47-52
• 4.4 本章小結52-53
• 結論53-54
• 參考文獻54-59
• 致謝59

【相似文獻】

中國期刊全文數(shù)據(jù)庫 前10條

1 陳曉紅;陳松燦;;類依賴的線性判別分析[J];小型微型計算機系統(tǒng);2008年05期

2 劉忠寶;王士同;;改進的線性判別分析算法[J];計算機應用;2011年01期

3 高建強;范麗亞;;模糊線性判別分析中距離對面部識別的影響[J];井岡山大學學報(自然科學版);2012年03期

4 葛熠;王亭亭;韓月;李峰;;基于核雙子空間線性判別分析人臉識別方法[J];科技視界;2012年23期

5 任獲榮;李春曉;孫建維;秦紅波;何培培;高敏;;類依賴增強線性判別分析算法[J];西安電子科技大學學報;2012年05期

6 溫鳳文;王洪春;;改進的張量線性判別分析[J];黑龍江科技信息;2013年24期

7 趙越;徐鑫;喬利強;;張量線性判別分析算法研究[J];計算機技術與發(fā)展;2014年01期

8 趙芳;馬玉磊;;基于概率線性判別分析的可擴展似然公式化人臉識別[J];科學技術與工程;2014年06期

9 周大可,楊新,彭寧嵩;改進的線性判別分析算法及其在人臉識別中的應用[J];上海交通大學學報;2005年04期

10 成忠;諸愛士;;一種適于高維小樣本數(shù)據(jù)的線性判別分析方法[J];浙江科技學院學報;2008年02期

中國重要會議論文全文數(shù)據(jù)庫 前2條

1 歐陽梅蘭;張志敏;陳晨;劉鑫波;梁逸曾;;稀疏線性判別分析法在代謝組學數(shù)據(jù)研究中的應用[A];中國化學會第29屆學術年會摘要集——第19分會：化學信息學與化學計量學[C];2014年

2 張明錦;杜一平;童佩瑾;;基于非相關線性判別分析的分層特征選擇方法及其在蛋白質(zhì)組數(shù)據(jù)分析中的應用[A];第十屆全國計算(機)化學學術會議論文摘要集[C];2009年

中國博士學位論文全文數(shù)據(jù)庫 前3條

1 任忠國;基于γ特征譜的對象相似性識別技術研究[D];蘭州大學;2015年

2 劉忠寶;基于核的降維和分類方法及其應用研究[D];江南大學;2012年

3 潘志斌;半監(jiān)督排序的若干關鍵問題研究[D];華中科技大學;2014年

中國碩士學位論文全文數(shù)據(jù)庫 前10條

1 王金貝;基于奇異值分解的不相關線性判別分析的通解與性質(zhì)[D];鄭州大學;2015年

2 林軒;幾種分類問題的研究[D];吉林大學;2015年

3 孔昭陽;基于GPU的并行線性判別分析算法研究[D];哈爾濱工業(yè)大學;2014年

4 李道紅;線性判別分析新方法研究及其應用[D];南京航空航天大學;2005年

5 曾麗輝;稀疏線性判別分析在文本分類中的應用研究[D];華東交通大學;2011年

6 姜園媛;人臉識別中關于線性判別分析算法的若干研究[D];吉林大學;2012年

7 王東;改進的二維直接線性判別分析方法及在人臉識別中的應用[D];云南大學;2015年

8 苗春玉;線性判別分析改進算法的分析與研究[D];遼寧師范大學;2012年

9 王增鋒;線性判別分析子空間方法人臉識別研究[D];山東大學;2006年

10 劉杰;基于集成局部分塊線性判別分析的人臉識別[D];南昌大學;2012年

，

本文編號：665384