發(fā)布時(shí)間：2018-10-13 17:24

【摘要】：非負(fù)矩陣分解是高維非負(fù)數(shù)據(jù)降維中的一類重要數(shù)學(xué)模型,最近已經(jīng)得到了大量研究觀測。半非負(fù)矩陣分解與凸非負(fù)矩陣分解是針對一般數(shù)據(jù)而被Ding等[9]引入,他們是非負(fù)矩陣分解的推廣,使得數(shù)據(jù)更有解釋性。Ding等[9]提出了乘法更新策略,但對于大維數(shù)據(jù),這種算法一般收斂很慢。在這篇文章中,我們對于半與凸非負(fù)矩陣分解給出了近點(diǎn)梯度方法,利用非光滑分析與Kurdyka-?ojasiewicz(KL)函數(shù)性質(zhì),我們證明了算法的收斂性。近些年一種Nesterov-類外推技術(shù)經(jīng)常被采用去加速一些針對凸優(yōu)化的梯度方法,所以我們嘗試用這一技術(shù)去加速這非凸的半非負(fù)矩陣分解與凸非負(fù)矩陣分解問題,得到了很好的效果,使得算法的收斂速度得到了大幅度提高。在人工合成和真實(shí)數(shù)據(jù)集上的實(shí)驗(yàn)顯示,我們的算法較之前的乘法更新策略在收斂速度方面提高至少10倍,在稀疏性和正交性方面略有提高,人工合成數(shù)據(jù)集上的分類實(shí)驗(yàn)顯示,我們的算法是更有效的。
[Abstract]:Non-negative matrix factorization is an important mathematical model for dimensionality reduction of high-dimensional non-negative data. Semi-nonnegative matrix factorization and convex nonnegative matrix factorization are introduced by Ding et al. [9] for general data. They generalize non-negative matrix factorization, which makes the data more interpretive. Ding et al. [9] put forward multiplication updating strategy, but for large dimensional data, This algorithm generally converges very slowly. In this paper, we give the near-point gradient method for the semi-convex nonnegative matrix decomposition. By using the nonsmooth analysis and the properties of Kurdyka-?ojasiewicz (KL) functions, we prove the convergence of the algorithm. In recent years, a Nesterov- class extrapolation technique is often used to accelerate some gradient methods for convex optimization, so we try to accelerate the problem of nonconvex semi-negative matrix decomposition and convex non-negative matrix decomposition by using this technique, and get good results. The convergence speed of the algorithm is greatly improved. Experiments on artificial and real datasets show that our algorithm is at least 10 times faster in convergence speed and slightly more sparse and orthogonal than the previous multiplication update strategy. The classification experiments on synthetic data sets show that our algorithm is more effective.
【學(xué)位授予單位】：東北師范大學(xué)
【學(xué)位級別】：碩士
【學(xué)位授予年份】：2015
【分類號】：O151.21

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 宋金歌;楊景;陳平;佘玉梅;;一種非負(fù)矩陣分解的快速稀疏算法[J];云南民族大學(xué)學(xué)報(bào)(自然科學(xué)版);2011年04期

2 尹星云;;非負(fù)矩陣分解的基本原理和研究現(xiàn)狀分析[J];科技資訊;2011年35期

3 程明松;劉勺連;;一種實(shí)用快速非負(fù)矩陣分解算法[J];大連理工大學(xué)學(xué)報(bào);2013年01期

4 唐曉芬;陳莉;;最大相關(guān)熵非負(fù)矩陣分解在基因表達(dá)數(shù)據(jù)聚類中的應(yīng)用[J];計(jì)算機(jī)與應(yīng)用化學(xué);2013年11期

5 曾文梅;;基于半監(jiān)督非負(fù)矩陣分解的人流量分析[J];哈爾濱師范大學(xué)自然科學(xué)學(xué)報(bào);2011年02期

6 孟佳音;劉丁酉;;基于分布估計(jì)算法的非負(fù)矩陣分解[J];湖北民族學(xué)院學(xué)報(bào)(自然科學(xué)版);2012年03期

7 王雪明;王套;;非負(fù)矩陣分解的相關(guān)討論[J];湖南農(nóng)機(jī);2013年09期

8 曹勝玉;劉來福;;非負(fù)矩陣分解及其在基因表達(dá)數(shù)據(jù)分析中的應(yīng)用[J];北京師范大學(xué)學(xué)報(bào)(自然科學(xué)版);2007年01期

9 李巧;孔薇;;改進(jìn)的非負(fù)矩陣分解在基因表達(dá)數(shù)據(jù)中的應(yīng)用[J];信息技術(shù);2010年12期

10 陳清華;陳六君;郭金忠;;二進(jìn)制約束下的NMF方法及其應(yīng)用[J];北京師范大學(xué)學(xué)報(bào)(自然科學(xué)版);2009年01期

相關(guān)會(huì)議論文 前10條

1 孫江明;李通化;;非平滑三維非負(fù)矩陣分解[A];第九屆全國計(jì)算（機(jī)）化學(xué)學(xué)術(shù)會(huì)議論文摘要集[C];2007年

2 蔣永鍇;葉東毅;;基于稀疏非負(fù)矩陣分解的自動(dòng)多文摘方法[A];中國計(jì)算機(jī)語言學(xué)研究前沿進(jìn)展（2007-2009）[C];2009年

3 馬帥;吳飛;楊易;邵健;;基于稀疏非負(fù)矩陣分解的圖像檢索[A];第七屆和諧人機(jī)環(huán)境聯(lián)合學(xué)術(shù)會(huì)議（HHME2011)論文集【oral】[C];2011年

4 徐利民;龔珊;余再軍;;奇異值分解與非負(fù)矩陣分解色在數(shù)據(jù)降維方面的特性分析[A];2010年通信理論與信號處理學(xué)術(shù)年會(huì)論文集[C];2010年

5 蔡蕾;朱永生;;基于稀疏性非負(fù)矩陣分解和支持向量機(jī)的軸心軌跡圖識(shí)別[A];2008年全國振動(dòng)工程及應(yīng)用學(xué)術(shù)會(huì)議暨第十一屆全國設(shè)備故障診斷學(xué)術(shù)會(huì)議論文集[C];2008年

6 蔣霈霖;;KL散度下的非負(fù)矩陣分解[A];中國自動(dòng)化學(xué)會(huì)中南六�。▍^(qū)）2010年第28屆年會(huì)·論文集[C];2010年

7 楊寶;朱啟兵;黃敏;;基于非負(fù)矩陣分解一稀疏表示分類的玻璃缺陷圖像識(shí)別[A];第24屆中國控制與決策會(huì)議論文集[C];2012年

8 錢樂樂;高雋;徐小紅;;非負(fù)性約束的圖像稀疏編碼[A];第七屆全國信息獲取與處理學(xué)術(shù)會(huì)議論文集[C];2009年

9 朱昊;黃源水;付夢印;;基于NMF的道路識(shí)別算法在野外環(huán)境感知中的應(yīng)用[A];第九屆全國光電技術(shù)學(xué)術(shù)交流會(huì)論文集（下冊）[C];2010年

10 鄭能恒;蔡毅;李霞;Tan Lee;;基于非負(fù)矩陣分解和向量相似測度的語音與音樂分離算法[A];第十一屆全國人機(jī)語音通訊學(xué)術(shù)會(huì)議論文集（一）[C];2011年

相關(guān)博士學(xué)位論文 前8條

1 胡俐蕊;非負(fù)矩陣分解方法及其在選票圖像識(shí)別中的應(yīng)用[D];安徽大學(xué);2013年

2 殷海青;圖像分析中的非負(fù)矩陣分解理論及其最優(yōu)化和正則化方法研究[D];西安電子科技大學(xué);2011年

3 楊洪禮;非負(fù)矩陣與張量分解及其應(yīng)用[D];山東科技大學(xué);2011年

4 史加榮;多尺度張量逼近及應(yīng)用[D];西安電子科技大學(xué);2012年

5 方蔚濤;人臉識(shí)別特征抽取算法的研究[D];重慶大學(xué);2012年

6 劉昱昊;基于非負(fù)矩陣分解算法的人臉識(shí)別技術(shù)的研究[D];吉林大學(xué);2014年

7 郭煒煒;基于張量表示的多維信息處理方法研究[D];國防科學(xué)技術(shù)大學(xué);2014年

8 劉亞楠;基于圖和低秩表示的張量分解方法及應(yīng)用研究[D];安徽大學(xué);2014年

相關(guān)碩士學(xué)位論文 前10條

1 謝昊;非負(fù)矩陣分解初始化及其應(yīng)用[D];暨南大學(xué);2015年

2 王一;凸與半非負(fù)矩陣分解的近點(diǎn)梯度方法研究[D];東北師范大學(xué);2015年

3 郭建虎;非負(fù)矩陣分解方法及其在人臉識(shí)別中的應(yīng)用[D];蘭州理工大學(xué);2010年

4 蔣冀翔;基于非負(fù)矩陣分解的信息獲取方法研究[D];東南大學(xué);2006年

5 譚青青;基于非負(fù)矩陣分解的腫瘤基因表達(dá)譜數(shù)據(jù)分析[D];安徽大學(xué);2015年

6 馬帥;基于稀疏非負(fù)矩陣分解的圖像檢索[D];浙江大學(xué);2012年

7 周丹;非負(fù)矩陣分解及其在人臉識(shí)別中的應(yīng)用[D];大連海事大學(xué);2013年

8 易利紅;非負(fù)矩陣分解及其在能力驗(yàn)證中的應(yīng)用[D];山西大學(xué);2013年

9 黃明明;稀疏圖正則非負(fù)矩陣分解及其在人臉識(shí)別中的應(yīng)用[D];北京交通大學(xué);2015年

10 張宇飛;加稀疏約束的非負(fù)矩陣分解[D];大連理工大學(xué);2010年

，

本文編號：2269375