低秩矩陣近似理論與應用
本文關鍵詞:低秩矩陣近似理論與應用,由筆耕文化傳播整理發(fā)布。
【摘要】:低秩矩陣近似,是機器學習、數(shù)值優(yōu)化、理論計算機科學等領域的重要研究方向。它既有嚴格的理論基礎,在實際問題中,也有著廣泛的應用。低秩矩陣近似的本質是利用高維空間中的低維結構,尋找一個合適的低秩矩陣來近似原來的復雜矩陣,使得低秩矩陣既能夠較好地保持原來復雜矩陣的諸多性質,又能夠有效地減少冗余信息和噪聲,從而降低存儲空間和計算量。近年來,使用非凸松弛的方法來求解低秩矩陣近似問題受到越來越多的關注。一些理論分析和實驗驗證表明,相比于凸松弛方法,非凸松弛可以對實際問題有著更好的近似,能夠更好地刻畫實際問題的本質屬性。然而,非凸優(yōu)化問題具有很高的復雜性,設計快速高效的優(yōu)化算法去求解非凸優(yōu)化問題是一項巨大的挑戰(zhàn)。本文使用更加簡單、直觀、靈活的非凸加權核范數(shù)作為低秩懲罰項,并提出一種解決低秩矩陣近似問題的統(tǒng)一的、非凸的框架。同時,本文提出一種叫做迭代收縮閾值與權值再分配算法(ISTRA),來求解上述非凸的低秩矩陣近似問題。在理論方面,本文證明了在一定假設下,ISTRA算法能夠有效地收斂到目標函數(shù)的局部最優(yōu)解,即穩(wěn)定點,并有次線性的收斂速度。在合成數(shù)據(jù)和實際圖像數(shù)據(jù)上的矩陣補全實驗表明,本文提出的迭代收縮閾值與權值再分配算法(ISTRA)能夠有效地恢復低秩矩陣,在精確度和速度上,都能超過當前最好的低秩矩陣恢復算法。
【關鍵詞】:低秩矩陣近似 非凸松弛 非凸優(yōu)化 矩陣補全 加權核范數(shù) 迭代收縮閾值與權值再分配算法
【學位授予單位】:中國科學技術大學
【學位級別】:碩士
【學位授予年份】:2016
【分類號】:O151.21;TP18
【目錄】:
- 摘要5-6
- ABSTRACT6-9
- 主要符號對照表9-10
- 第一章 緒論10-16
- 1.1 引言10
- 1.2 研究背景與意義10-11
- 1.3 國內外研究現(xiàn)狀11-12
- 1.4 本文主要工作與貢獻12-13
- 1.5 本文組織結構13-16
- 第二章 低秩矩陣近似相關工作概述16-26
- 2.1 低秩矩陣近似的理論研究16-22
- 2.1.1 低秩矩陣近似的問題定義16-17
- 2.1.2 低秩矩陣近似的凸松弛方法17-19
- 2.1.3 低秩矩陣近似與稀疏優(yōu)化的聯(lián)系19-20
- 2.1.4 低秩矩陣近似的非凸松弛方法20-22
- 2.1.5 基于矩陣分解的方法22
- 2.2 低秩矩陣近似的應用22-25
- 2.2.1 推薦系統(tǒng)22-23
- 2.2.2 魯棒主成分分析23-25
- 2.2.3 其它應用25
- 2.3 本章小結25-26
- 第三章 低秩矩陣近似問題的優(yōu)化算法26-32
- 3.1 凸優(yōu)化方法26-28
- 3.1.1 半定規(guī)劃方法26
- 3.1.2 Proximal梯度法26-28
- 3.2 非凸優(yōu)化方法28-31
- 3.2.1 交替優(yōu)化方法29
- 3.2.2 交替方向乘子法29-31
- 3.3 本章小結31-32
- 第四章 迭代收縮閡值與權值再分配算法ISTRA32-52
- 4.1 問題定義32-33
- 4.2 基本方法33-39
- 4.2.1 構造Proximal問題33-35
- 4.2.2 權值再分配策略35-37
- 4.2.3 迭代收縮閾值與權值再分配算法ISTRA37-39
- 4.3 收斂性分析39-43
- 4.3.1 步長有界39-40
- 4.3.2 收斂結果40-42
- 4.3.3 收斂速度42
- 4.3.4 與Majorization Minimization方法的聯(lián)系42-43
- 4.4 實驗分析43-50
- 4.4.1 合成數(shù)據(jù)實驗44-46
- 4.4.2 實際圖像數(shù)據(jù)實驗46-50
- 4.5 本章小結50-52
- 第五章 結論與展望52-54
- 5.1 工作內容總結52-53
- 5.2 下一步工作展望53-54
- 參考文獻54-58
- 致謝58-60
- 在讀期間發(fā)表的學術論文與取得的研究成果60
【相似文獻】
中國期刊全文數(shù)據(jù)庫 前10條
1 李耀堂,關莉;塊H-矩陣的簡捷判據(jù)[J];延安大學學報(自然科學版);2000年04期
2 陳飛翔;武忠祥;;一類關于矩陣范數(shù)的不等式及其應用[J];河南科學;2009年02期
3 洪光焱;;相容矩陣范數(shù)的延拓[J];數(shù)學理論與應用;2009年02期
4 王植棠;矩陣范數(shù)||A||_(α,β)[J];阜新礦業(yè)學院學報;1986年01期
5 高科華;一類實對稱矩陣范數(shù)的估計[J];十堰大學學報;1988年00期
6 耿濟;;矩陣的追跡與范數(shù)(二)[J];海南大學學報(自然科學版);1989年03期
7 孫繼濤;;區(qū)間矩陣的穩(wěn)定性研究[J];華東冶金學院學報;1992年03期
8 張銀萍;;時變區(qū)間矩陣的穩(wěn)定性研究[J];華東冶金學院學報;1993年02期
9 蹇繼貴;王仁明;;n階時變區(qū)間矩陣的穩(wěn)定性[J];葛洲壩水電工程學院學報;1994年01期
10 張喜平;幾類矩陣范數(shù)之間的關系[J];高等學校計算數(shù)學學報;1997年01期
中國重要會議論文全文數(shù)據(jù)庫 前1條
1 張銀萍;孫繼濤;;時變區(qū)間矩陣穩(wěn)定的判別準則[A];1993中國控制與決策學術年會論文集[C];1993年
中國博士學位論文全文數(shù)據(jù)庫 前8條
1 陳彩華;求解一類矩陣范數(shù)逼近問題的數(shù)值算法[D];南京大學;2012年
2 郭少艷;兩類矩陣優(yōu)化問題的擾動分析[D];大連理工大學;2016年
3 陳小山;矩陣擾動若干問題研究[D];華南師范大學;2007年
4 潘小平;幾類矩陣的約束特征值反問題及其最佳逼近問題[D];湖南大學;2005年
5 庹清;廣義對角占優(yōu)矩陣的數(shù)值判定方法[D];湘潭大學;2011年
6 李朝遷;矩陣和高階張量特征值的定位與估計[D];云南大學;2012年
7 王峰;H-矩陣(張量)的判定及其Schur補研究[D];云南大學;2014年
8 侍興華;矩陣和張量計算中的若干問題研究[D];復旦大學;2013年
中國碩士學位論文全文數(shù)據(jù)庫 前10條
1 靳志祥;酉變換下對矩陣不等式的推廣[D];曲阜師范大學;2015年
2 吳霓;矩陣冪的展開及其應用[D];浙江工商大學;2015年
3 仲小偉;低秩矩陣近似理論與應用[D];中國科學技術大學;2016年
4 冉水秀;塊H-矩陣與廣義H-矩陣性質的研究[D];湘潭大學;2012年
5 匡巧英;H-矩陣和廣義H-矩陣的一些判別方法[D];湘潭大學;2013年
6 周立新;H-矩陣和塊矩陣的若干性質[D];湘潭大學;2008年
7 何安旗;H-矩陣的一些直接和迭代判別法[D];湘潭大學;2007年
8 陳愈;矩陣對數(shù)的計算及其在信用風險定量分析中的應用[D];復旦大學;2007年
9 冉艷麗;矩陣數(shù)值特征界的新估計[D];重慶大學;2010年
10 胡榮春;托普利茲矩陣的一種分解帶狀逆預處理矩陣[D];汕頭大學;2010年
本文關鍵詞:低秩矩陣近似理論與應用,,由筆耕文化傳播整理發(fā)布。
本文編號:372850
本文鏈接:http://sikaile.net/kejilunwen/yysx/372850.html