矩陣分解的原理是將原始數(shù)據(jù)矩陣分解成多個矩陣的乘積,其作用是數(shù)據(jù)降維或者超完備基的學習。然而,傳統(tǒng)的矩陣分解算法存在很多不足,第一,容易陷入局部解,而無法搜素到全局最優(yōu)解;第二,對于各個子問題優(yōu)化存在收斂慢、計算量大和精度差等問題。因此,本文提出收斂快、計算量小、精度高以及能搜索到全局解的多個算法,理論和實驗證實了這些算法的可行性和有效性。除了對矩陣分解問題的優(yōu)化算法進行研究以外,本文還要研究如何將矩陣分解有效地應用到實際問題�；诰仃嚪纸獾乃枷�,本文提出了監(jiān)督性學習方法,該方法可以很好應用于圖像識別。我們的創(chuàng)新點如下:·提出基于慣性神經(jīng)網(wǎng)絡求解非負矩陣分解的一類算法,通過Lyapunov泛函知識證明慣性神經(jīng)網(wǎng)絡系統(tǒng)的穩(wěn)定性,且收斂到全局最優(yōu)解。相對于傳統(tǒng)算法而言,該算法的優(yōu)勢在于通過調節(jié)神經(jīng)網(wǎng)絡的慣性項,從而搜索到全局最優(yōu)解。·提出基于估計序列優(yōu)化來理論求解非負矩陣分解的一類算法:即通過Nesterov的凸優(yōu)理論對兩個帶約束凸二次規(guī)劃問題進行交替優(yōu)化。相對于傳統(tǒng)算法而言,該類算法的優(yōu)勢在于各子問題的算法收斂率為O(1/k²),且擁有收斂快,計算量小和精度高的特點...

【文章頁數(shù)】：103 頁

【學位級別】：博士

【部分圖文】：

圖1.1本文研究的內容和應用范圍用一個慣性神經(jīng)網(wǎng)絡系統(tǒng)直接優(yōu)化非負矩陣分解，第二，采用兩個慣性神經(jīng)網(wǎng)絡系統(tǒng)交替優(yōu)化非負矩陣分解

圖1.1本文研究的內容和應用范圍性神經(jīng)網(wǎng)絡系統(tǒng)直接優(yōu)化非負矩陣分解，第二，采交替優(yōu)化非負矩陣分解。通過信號處理實驗證明，，我們提出的算法在盲源分離中可以獲得更好分離化算法求解非負矩陣分解各子問題存在收斂慢、計，本文將Nesterov的估計序列理論應用于求解非，使其各個子問....

圖5.1LDA示意圖:紅點表示0類，藍點表示1類，圖中分類直線為y=wTx

即每行減少對應行的均值C=1mˉXˉXT，并計算出其對應的特征對應的特征值大小，從大到小排列，，其降維后的數(shù)據(jù)為Y=PZ。LDA）（LinearDiscriminantAnalysis，LD法，其有關的理論最開始由Fish提，試著將樣本集投影到直線上，使投影位置....

本文編號：4003818