如何從含有異常值點(diǎn)或噪聲污染的部分觀測(cè)數(shù)據(jù)中有效地恢復(fù)出低秩部分,這一問(wèn)題的實(shí)現(xiàn)可以廣泛地應(yīng)用于現(xiàn)代社會(huì)生活中,包括機(jī)器學(xué)習(xí),數(shù)據(jù)挖掘和圖像處理等各個(gè)領(lǐng)域。例如購(gòu)物網(wǎng)站的推薦系統(tǒng):需要針對(duì)不同用戶,為他們從海量的商品中正確推薦其感興趣的商品。在實(shí)際需求的推動(dòng)下,主成分分析（Principle Component Analysis,PCA）模型理論逐漸發(fā)展,是數(shù)據(jù)分析的主流方法之一,但該模型缺乏魯棒性,對(duì)非高斯噪聲或異常點(diǎn)尤為敏感,使得其無(wú)法滿足實(shí)際需求。為了克服這一缺陷,提出了魯棒性主成分分析（Robust Principle Component Analysis,RPCA）作為主成分分析的進(jìn)化模型成為研究的熱點(diǎn)問(wèn)題。相比經(jīng)典的PCA模型,RPCA模型不僅可以有效恢復(fù)出數(shù)據(jù)的低秩成分,也可以分解得到稀疏部分。Candes等人[14]提出利用l0范數(shù)和秩函數(shù)的凸包（即l1范數(shù)和核范數(shù)）對(duì)RPCA模型進(jìn)行凸松弛,本文提出了一種新的非凸RPCA模型具有更好的性能,并給出了相應(yīng)的算法。論文的主要工作如下:首先提出了基于lp范數(shù)的魯棒主成分分析非凸模型（lp-RPCA）。針對(duì)RPCA模型進(jìn)行凸松... 

【文章來(lái)源】：華中師范大學(xué)湖北省 211工程院校 教育部直屬院校

【文章頁(yè)數(shù)】：61 頁(yè)

【學(xué)位級(jí)別】：碩士

【部分圖文】：

圖２．１他（／７紅問(wèn)題［２４】??Ａ＾（／７／ｊｃ問(wèn)題如圖２．丨所示，共有４８萬(wàn)用戶對(duì)電影評(píng)分，電影共有１．８萬(wàn)部，每??

Ｑ范數(shù)都是非凸非線性的函數(shù)，非凸優(yōu)化模型（３．３）是ＮＰ難問(wèn)題，目??前還沒(méi)有有效的求解辦法，因此直接求解上述問(wèn)題是非常困難的。??為了有效求解上述問(wèn)題，Ｃａｎｄｈ等人給出理論證明１１４］，在一定條件下：當(dāng)心??的奇異值對(duì)應(yīng)向量滿足一些不相關(guān)條件，并且＆足夠稀疏時(shí)，可以對(duì)原始問(wèn)題進(jìn)??行凸松弛，有很大的概率可以求解下述凸優(yōu)化問(wèn)題而恢復(fù)：??ｍｍ?｜｜Ｌ｜｜＊?＋?ＡＨ＾ＩＩｉ??ｓ．ｔ．?Ｘ?＝?Ｌ?＋?Ｓ．?（３．４）??灞??被污染觀測(cè)矩陣Ｘ?低秩矩陣Ｌ?稀疏誤差Ｓ??圖３．１?ＲＰＣＡ示意圖??即對(duì)矩陣的秩和范數(shù)分別用核范數(shù)和匕范數(shù)進(jìn)行凸松她，這里進(jìn)行這種凸優(yōu)??化是因?yàn)楹朔稊?shù)和丨１范數(shù)分別是秩和丨。范數(shù)的最優(yōu)凸近似，由下面參考文獻(xiàn)中兩個(gè)??定理得到：??定理矩陣的Ｚｌ范數(shù)是矩陣范數(shù)在單位球上的凸包絡(luò)。??定理３．２％在集合５?＝?｛ｘｅ／＾ｘｎ｜丨ｍｉ?ｄ｝上，矩陣的核范數(shù)ＩＩ川Ｕ是矩陣秩函數(shù)??ｒａｎ／ｃ〇４）的凸包。??根據(jù)上述兩個(gè)引理，可以將問(wèn)題（３．３）進(jìn)行凸松弛為問(wèn)題（３．４），此時(shí)（３．４）是凸問(wèn)??題，即存在唯一的最小解（最優(yōu)解），在參考文獻(xiàn)［１４］中，Ｃａｎｄｈ等人將凸優(yōu)化問(wèn)題??（３．４）稱為主成分追蹤，這里的加權(quán)系數(shù)Ａ，通過(guò)實(shí)驗(yàn)驗(yàn)證，當(dāng)取；１?＝?ｌＡ／ｍａｘ（ｍ，ｎ）??時(shí)往往可以得到最優(yōu)結(jié)果。??１２??

ＰＣＡ模型??４．１。范數(shù)最小化問(wèn)題??４．１．１，口范數(shù)特點(diǎn)??由表１．１說(shuō)明了ｋ范數(shù)的定義，矩陣的Ｇ范數(shù)和核范數(shù)分別是矩陣的／ｐ范數(shù)和矩??陣奇異值向量的＆范數(shù)當(dāng)ｐ?＝?１時(shí)的特殊情況。???■???———｝?１｜?????ｐ＝＾．５ｆ／?Ｐ＝°－５???ｐ＝１?ｆ?／?／?Ｐ＝１??３?＼??ｐ＝２?０?５?／?＾?－－－－－?ｐ＝２??＼?ｙ?／?／??：［＼Ｚ］??？２－１０１２?－１?＊＊０－５?０?０．５?１??Ｘ?ｘ，??圖４．１?一維情況下丨ｐ范數(shù)?圖４．２二維情況下Ｚｐ范數(shù)??從圖４．１、圖４．２上可以明顯看到，范數(shù)可以更好地連接Ｍ范數(shù)和卜范數(shù)之間??的間隔，因此矩陣的／ｐ范數(shù)（〇＜ｐ＜ｌ）比卜范數(shù)更接近于＆范數(shù)，特別地，當(dāng)ｐ?—?０??時(shí)，／ｐ范數(shù)就退化成了丨Ｑ范數(shù)。進(jìn)而可以得到相關(guān)問(wèn)題更優(yōu)化的結(jié)果。同理得，當(dāng)對(duì)??矩陣的奇異值向量取／ｐ范數(shù)時(shí)，會(huì)比核范數(shù)更接近于秩函數(shù)。??原有魯棒主成分分析模型理論上是使用核范數(shù)來(lái)逼近矩陣的秩，使用＾范數(shù)逼??近矩陣的￣范數(shù)，分別約束矩陣的低秩性和稀疏性，矩陣的核范數(shù)和〗ｉ范數(shù)分別是矩??陣的秩函數(shù)和／〇范數(shù)的凸包，因此這樣得到的模型為凸優(yōu)化問(wèn)題，雖然可以計(jì)算得??到該凸優(yōu)化問(wèn)題的最優(yōu)解，但并不是真實(shí)問(wèn)題的最優(yōu)解；另一方面，在ＲＰＣＡ凸近??似模型中采用的＾范數(shù)不能表示噪聲的結(jié)構(gòu)化信息，也就沒(méi)有考慮到噪聲矩陣本身??的結(jié)構(gòu)信息，這些就導(dǎo)致傳統(tǒng)ＲＰＣＡ模型的效果不好。這也是為什么本文選擇？范??數(shù)對(duì)模型進(jìn)行改進(jìn)的原因。??１６??


本文編號(hào)：3223545