張量低秩逼近與梯度流方法
發(fā)布時(shí)間:2017-09-24 01:11
本文關(guān)鍵詞:張量低秩逼近與梯度流方法
更多相關(guān)文章: 張量分解 張量低秩逼近 線(xiàn)性矩陣方程 ALS方法 梯度流方法
【摘要】:張量分解和張量低秩逼近是目前最熱門(mén)的研究領(lǐng)域之一,在心理測(cè)量學(xué)、化學(xué)計(jì)量學(xué)、數(shù)據(jù)壓縮與挖掘、計(jì)算機(jī)視覺(jué)、圖形分析等領(lǐng)域有廣泛的應(yīng)用背景.張量分解的數(shù)值實(shí)現(xiàn)很困難,一個(gè)替代辦法是嘗試尋找其低秩逼近.任意階的張量最佳秩一逼近總存在,但可能沒(méi)有秩大于二的最佳逼近.計(jì)算張量秩一逼近的主要方法是ALS(交替方向最小二乘)方法,它可以看成是乘冪法的一種推廣.關(guān)于ALS算法的研究成果很多,如目標(biāo)值的有界單調(diào)收斂性分析、局部收斂性分析、各種變體及其應(yīng)用等,但是關(guān)于其迭代序列本身的全局收斂性分析尚未見(jiàn)到任何結(jié)果.由于當(dāng)R≥2時(shí),高階張量最佳秩R逼近不一定存在,有人嘗試正交低秩逼近,對(duì)完全正交約束問(wèn)題,證明了解的存在唯一性并給出了ALS方法,但未有任何收斂性結(jié)果.線(xiàn)性矩陣方程可以看成是一類(lèi)四階張量算子方程.對(duì)于一般的線(xiàn)性矩陣方程,人們通常將其展開(kāi)成線(xiàn)性方程組來(lái)求解.這樣會(huì)破壞原始數(shù)據(jù)的內(nèi)在結(jié)構(gòu),增加存儲(chǔ)量和計(jì)算量,降低求解效率.也有一些的直接從矩陣方程出發(fā)的求解辦法,但是只限于特殊的線(xiàn)性矩陣方程,甚至是特殊條件之下如何對(duì)一般的線(xiàn)性矩陣方程,不轉(zhuǎn)化為線(xiàn)性方程組而直接構(gòu)造求解方法是一個(gè)值得考慮的問(wèn)題.流方法是一類(lèi)求解優(yōu)化問(wèn)題和非線(xiàn)性方程組的全局收斂性算法.梯度流方法是一類(lèi)特殊的流方法.本文研究張量低秩逼近和一般線(xiàn)性矩陣方程的算法和理論,其中梯度流方法起到了至關(guān)重要的作用,取得的主要成果如下在本文第二章中,我們填補(bǔ)了張量秩一逼近的ALS方法產(chǎn)生的迭代序列沒(méi)有全局收斂性分析這一缺失,通過(guò)梯度流方法,用動(dòng)力系統(tǒng)和代數(shù)幾何理論證明了對(duì)于幾乎所有張量,秩一逼近的ALS方法產(chǎn)生的迭代序列是全局收斂的.在本文第三章,我們研究高階張量的秩R(R≥2)正交逼近問(wèn)題.我們考慮帶較弱的半正交約束,即要求各秩一張量在某一組分量上相互正交的秩R(R≥2)逼近問(wèn)題.對(duì)此問(wèn)題,我們通過(guò)極分解保持半正交性,給出了一種ALS方法——修正高階乘冪法,證明了目標(biāo)值的有界單調(diào)收斂性,并用梯度流的方法和代數(shù)幾何理論證明了對(duì)于幾乎所有的張量,ALS方法產(chǎn)生的迭代序列的全局收斂性.在本文第四章,我們給出了求解一般線(xiàn)性矩陣方程的正規(guī)方程的梯度流方法的計(jì)算框架,說(shuō)明了該方法的收斂性,并給出了收斂速度估計(jì)和證明,對(duì)常見(jiàn)的矩陣方程進(jìn)行了歸納分類(lèi),給出了相應(yīng)的梯度流形式,最后用低精度的ODE方法對(duì)該方法進(jìn)行了高精度的實(shí)現(xiàn).這類(lèi)方法對(duì)于一般的線(xiàn)性矩陣方程都可以有效求解.
【關(guān)鍵詞】:張量分解 張量低秩逼近 線(xiàn)性矩陣方程 ALS方法 梯度流方法
【學(xué)位授予單位】:大連理工大學(xué)
【學(xué)位級(jí)別】:博士
【學(xué)位授予年份】:2015
【分類(lèi)號(hào)】:O241.6
【目錄】:
- 摘要4-5
- Abstract5-12
- 1 緒論12-26
- 1.1 張量分解與低秩逼近12-18
- 1.1.1 張量的基本概念12
- 1.1.2 張量的基本運(yùn)算12-14
- 1.1.3 張量分解14
- 1.1.4 張量分解的類(lèi)型14-16
- 1.1.5 張量低秩逼近16-18
- 1.1.6 計(jì)算方法18
- 1.2 線(xiàn)性算子與線(xiàn)性算子方程18-21
- 1.2.1 線(xiàn)性矩陣方程20-21
- 1.3 梯度流21-23
- 1.4 代數(shù)幾何中的幾個(gè)概念23
- 1.5 本文主要內(nèi)容23-26
- 2 一般張量的秩一逼近26-36
- 2.1 引言26
- 2.2 張量的秩一逼近26
- 2.3 ALS方法26-28
- 2.4 ALS方法的全局收斂性28-32
- 2.4.1 增量的減少28-29
- 2.4.2 梯度流方法29-32
- 2.4.3 分量全局收斂32
- 2.5 代數(shù)幾何的觀點(diǎn)32-33
- 2.6 局部極小點(diǎn)33
- 2.7 特例33-34
- 2.8 本章小結(jié)34-36
- 3 張量的正交低秩逼近36-52
- 3.1 引言36
- 3.2 秩二逼近,存在性與正交性36-38
- 3.3 正交秩二逼近38
- 3.4 最優(yōu)性條件38-40
- 3.5 正交秩二逼近的HOPM方法40
- 3.6 張量的正交低秩逼近40-41
- 3.7 廣義的Rayleigh商41-42
- 3.8 最優(yōu)性條件42-44
- 3.9 修正的高階乘冪法44-45
- 3.10 算法的收斂性45-50
- 3.10.1 函數(shù)目標(biāo)值的收斂45-46
- 3.10.2 迭代的收斂46-50
- 3.10.2.1 幾何孤立穩(wěn)定點(diǎn)46-48
- 3.10.2.2 增量的減少48
- 3.10.2.3 全局收斂性48-49
- 3.10.2.4 一般性49-50
- 3.11 本章小結(jié)50-52
- 4 一類(lèi)求解一般線(xiàn)性矩陣方程的梯度流計(jì)算框架52-68
- 4.1 引言52
- 4.2 廣義正規(guī)方程52-54
- 4.3 梯度流方法求解線(xiàn)性矩陣方程54
- 4.4 收斂性和收斂速度54-57
- 4.5 應(yīng)用到幾類(lèi)特殊的線(xiàn)性矩陣方程57-61
- 4.6 梯度流方法的低精度高效率實(shí)現(xiàn)61-65
- 4.7 復(fù)域情況65-66
- 4.8 本章小結(jié)66-68
- 5 結(jié)論與展望68-72
- 5.1 結(jié)論68-69
- 5.2 創(chuàng)新點(diǎn)69
- 5.3 展望69-72
- 參考文獻(xiàn)72-82
- 攻讀博士學(xué)位期間科研項(xiàng)目及科研成果82-84
- 作者簡(jiǎn)介84
本文編號(hào):908495
本文鏈接:http://sikaile.net/shoufeilunwen/jckxbs/908495.html
最近更新
教材專(zhuān)著