矩陣分解學習（Matrix Factorization Learning）是機器學習中應用最廣泛的方法之一,其主要目標是把原始的數(shù)據(jù)矩陣表示為兩個或多個低秩矩陣的乘積形式,分解之后的矩陣的秩遠小于原始矩陣的秩,再應用低秩的低維矩陣表示處理各種分類和聚類任務。矩陣分解通過將數(shù)據(jù)分解成不同的緊湊有效表示方法能高效發(fā)現(xiàn)模型隱含的潛在因子或預測矩陣中的缺失數(shù)值,近年來受到了越來越多研究人員的重視。在網(wǎng)絡科學的社區(qū)發(fā)現(xiàn)應用中,由于所有的網(wǎng)絡結構均可以通過關系圖來表示,而圖的主要結構表征即為其鄰接矩陣（Adjacency Matrix）;因此應用矩陣分解學習相關方法,能有效將整個社區(qū)網(wǎng)絡中節(jié)點聚合到不同社區(qū)中,可以得到很好的應用和實驗效果。本文將系統(tǒng)性地調(diào)研目前矩陣分解學習和網(wǎng)絡社區(qū)發(fā)現(xiàn)的主要研究方法,并針對網(wǎng)絡社區(qū)發(fā)現(xiàn)中的無監(jiān)督、重疊效應以及網(wǎng)絡數(shù)據(jù)特性等實際問題,提出半監(jiān)督對稱非負矩陣分解和貝葉斯對稱非負矩陣分解兩種全新的矩陣分解算法,以社會網(wǎng)絡和科學網(wǎng)絡為主要研究數(shù)據(jù),進行社區(qū)發(fā)現(xiàn)相關方法比較和具體實踐分析,獲得良好的實驗結果和應用效果。本論文的主要貢獻和創(chuàng)新點體現(xiàn)在以下幾個方面:1、半監(jiān)督... 

【文章來源】：上海交通大學上海市 211工程院校 985工程院校 教育部直屬院校

【文章頁數(shù)】：126 頁

【學位級別】：博士

【部分圖文】：

–1主成分分析

第二章社區(qū)發(fā)現(xiàn)與矩陣分解學習方法介紹上海交通大學博士學位論文P(X|α,μ,σ2)=∫p(X|W,μ,σ2)p(W|α)dW(2–6)其中，μ和σ2為需要估計的參數(shù)。2.2.2ICA矩陣分解獨立成分分析（ICA）[59]是一種從多維統(tǒng)計數(shù)據(jù)中尋找潛在因素或成分的方法。ICA不同于其他方法的地方在于，它尋找的是既具有統(tǒng)計獨立性又具有非高斯性的成分。在ICA中，對數(shù)據(jù)做白化預處理可以去除不同觀測信號之間的關聯(lián)性，從而簡化了獨立分量后續(xù)的提取過程。相比不對數(shù)據(jù)進行白化處，數(shù)據(jù)進行白化處理的算法收斂性更好[60]。ICA相比于PCA，其追求的效果是不一樣的：ICA尋找的是最能使數(shù)據(jù)的相互獨立的方向，而PCA僅要求方向是不相關的（圖2–2）。我們知道，獨立可以推出不相關，反之則不然，而高斯分布的情況下獨立等價于不相關。因此ICA需要數(shù)據(jù)的高階統(tǒng)計量，PCA則只需要計算二階統(tǒng)計量。圖2–2ICA分解模型Figure2–2ICAMatrixFactorizationModel.ICA主要用于無監(jiān)督情況下源信號分離的問題：設有d個獨立的標量信號源發(fā)出聲音，其在時刻t發(fā)出的聲音可表示為st=(s(1)t,s(2)t,...,s(d)t)∈Rd。同樣地，有d個觀測器在進行采樣，其在時刻t記錄的信號可表示為：xt∈Rd。認為二者滿足下式，其中矩陣A∈Rd×d被稱為混合矩陣，反映信道衰減參數(shù)：xt=Ast(2–7)—12—

上海交通大學博士學位論文第二章社區(qū)發(fā)現(xiàn)與矩陣分解學習方法介紹顯然，有多少個采樣時刻，就可以理解為有多少個樣本；而信號源的個數(shù)可以理解為特征的維數(shù)。ICA的目標就是從x中提取出d個獨立成分，即找到非混合矩陣W：st=Wxt,W=A1(2–8)將矩陣W記為W=(w1;w2;...;wd)，也就是它的第j行是wj，那么s(j)i=wjxi。（這里的W相比于PCA推導中的W差一個轉(zhuǎn)置）2.2.3SVD矩陣分解在矩陣分解學習中，目標矩陣如果是方陣（M=N），一般使用PCA的特征值分解方法來實現(xiàn)；對于不是方陣，則一般使用奇異值（SVD）分解[61]去實現(xiàn)的。因此，SVD可以看作是對非方陣做PCA處理的一種方式，通過分解出特征值，選擇特征向量中對應有較大的特征值的部分構成投影矩陣，然后做線性變換（將數(shù)據(jù)X投影到低維空間）。SVD矩陣分解方法在信號處理和推薦系統(tǒng)上有許多相關應用。圖2–3SVD分解模型Figure2–3SVDMatrixFactorizationModel.這里U和V是X的左(右)奇異向量的正交矩陣，Σ是從最大值排序的奇異值的對角矩陣（σ1≥σ2≥...≥σk），這些決定了原始矩陣的等級；U、VT和Σ中的每個奇異值從左上角開始，由大到小排列，左邊部分對應可相關的原始特征數(shù)據(jù)，用于進行數(shù)據(jù)重構。SVD作為一個優(yōu)化問題情況下，對應表示如下：mincAm×dCm×kXk×nF(2–9)—13—

【參考文獻】：
期刊論文
[1]徽州契約文書地域信息組織與揭示的路徑探究[J]. 王昕,張潔,湯萌.  新世紀圖書館. 2018(04)
[2]基于矩陣分解學習的科學合作網(wǎng)絡社區(qū)發(fā)現(xiàn)研究[J]. 施曉華,盧宏濤.  數(shù)據(jù)分析與知識發(fā)現(xiàn). 2017(09)
[3]基于小世界理論的無線傳感器網(wǎng)絡建模[J]. 李俊,杜萍.  科技廣場. 2015(12)
[4]學者身份識別的機制及關鍵技術研究[J]. 常娥.  圖書館論壇. 2015(10)
[5]應用非負矩陣分解模型的社區(qū)發(fā)現(xiàn)方法綜述[J]. 李亞芳,賈彩燕,于劍.  計算機科學與探索. 2016(01)
[6]基于文獻實體關系模型的高校機構知識庫作者認領模式研究[J]. 陳嘉勇,周婕,李玲,肖明.  情報理論與實踐. 2015(02)
[7]中文文獻題錄數(shù)據(jù)作者重名消解問題研究[J]. 朱云霞.  圖書情報工作. 2014(23)
[8]共詞網(wǎng)絡的結構與演化:概念與理論進展[J]. 張斌.  情報雜志. 2014(07)
[9]基于復雜網(wǎng)絡分析的軟件高危缺陷評估方法[J]. 馬皖王瑩,陳林,陳芝菲,王子元.  計算機科學與探索. 2014(08)
[10]基于語法樹的程序相似度判定方法[J]. 石野,黃龍和,車天陽,高斯,王健.  吉林大學學報(信息科學版). 2014(01)

博士論文
[1]半監(jiān)督低秩矩陣學習及其應用[D]. 賀楊成.上海交通大學 2015
[2]復雜網(wǎng)絡社團結構分析方法研究[D]. 賴大榮.上海交通大學 2011



本文編號：3266280