本文關(guān)鍵詞：基于ADMM的分布式矩陣分解

  更多相關(guān)文章： 機(jī)器學(xué)習(xí) 推薦系統(tǒng) ADMM 分布式算法 隨機(jī)學(xué)習(xí)

【摘要】：矩陣分解因其模型簡單但是效果顯著而成為推薦系統(tǒng)領(lǐng)域非常流行的模型之一。但是在互聯(lián)網(wǎng)時(shí)代,在線信息量呈爆發(fā)式增長。這種發(fā)展趨勢(shì)一方面促進(jìn)了個(gè)性化推薦系統(tǒng)的廣泛應(yīng)用,另一方面要求數(shù)據(jù)挖掘類算法向并行分布式方向轉(zhuǎn)變。只有具有良好可擴(kuò)展性的分布式算法才能處理日益龐大的數(shù)據(jù)集。因此,近幾年來,大數(shù)據(jù)研究人員致力于研究大規(guī)模矩陣分解問題的分布式解決方案。而已有方案在效率、可擴(kuò)展性等方面仍有很大提升空間。因此,本文提出了一種新的解決方案并將其命名為DS-ADMM(Distributed Stochastic Alternating Direction Methods of Multipliers)。該方案首先提出了一種新的數(shù)據(jù)分割策略。該策略能夠?qū)⒎植际骄仃嚪纸鈫栴}分解成適用于ADMM框架的結(jié)構(gòu)。在此基礎(chǔ)上,本文設(shè)計(jì)并提出了DS-ADMM。為了評(píng)測該算法的性能,本文使用MPI(Message Passing Interface)實(shí)現(xiàn)該算法,并設(shè)計(jì)了多組實(shí)驗(yàn)測量DS-ADMM和多個(gè)已有算法在若干真實(shí)數(shù)據(jù)集上的運(yùn)行性能。實(shí)驗(yàn)結(jié)果表明,不論是在效率還是在精度上,DS-ADMM都明顯優(yōu)于已有的分布式矩陣分解模型。
【關(guān)鍵詞】：機(jī)器學(xué)習(xí) 推薦系統(tǒng) ADMM 分布式算法 隨機(jī)學(xué)習(xí)
【學(xué)位授予單位】：上海交通大學(xué)
【學(xué)位級(jí)別】：碩士
【學(xué)位授予年份】：2015
【分類號(hào)】：O151.21
【目錄】：

• 摘要3-4
• ABSTRACT4-10
• 主要符號(hào)對(duì)照表10-11
• 第一章 緒論11-17
• 1.1 研究意義及目的11-14
• 1.2 本文貢獻(xiàn)14-15
• 1.3 本文結(jié)構(gòu)15-17
• 第二章 基礎(chǔ)知識(shí)17-25
• 2.1 符號(hào)說明17
• 2.2 矩陣分解17-18
• 2.3 基于ALS的分布式矩陣分解18-19
• 2.4 基于SGD的分布式矩陣分解19-21
• 2.5 ADMM簡介21-22
• 2.6 本章小結(jié)22-25
• 第三章 基于ADMM的分布式矩陣分解25-43
• 3.1 大規(guī)模矩陣分解問題的分割策略25-30
• 3.1.1 適用于ALS的分割策略26-27
• 3.1.2 適用于SGD的分割策略27-28
• 3.1.3 適用于ADMM的分割策略28-30
• 3.2 分布式ADMM30-31
• 3.3 隨機(jī)分布式ADMM31-38
• 3.3.1 更新V31-32
• 3.3.2 批處理學(xué)習(xí)32-38
• 3.3.3 隨機(jī)學(xué)習(xí)38
• 3.4 調(diào)度策略分析38-40
• 3.5 復(fù)雜度分析40-41
• 3.6 本章小結(jié)41-43
• 第四章 實(shí)驗(yàn)結(jié)果和分析43-55
• 4.1 實(shí)驗(yàn)設(shè)置43-47
• 4.1.1 實(shí)驗(yàn)平臺(tái)43
• 4.1.2 實(shí)驗(yàn)數(shù)據(jù)集43-45
• 4.1.3 基準(zhǔn)算法介紹45-46
• 4.1.4 參數(shù)設(shè)置46-47
• 4.2 實(shí)驗(yàn)結(jié)果47-53
• 4.2.1 準(zhǔn)確性和運(yùn)行效率實(shí)驗(yàn)47-50
• 4.2.2 可擴(kuò)展性實(shí)驗(yàn)50-51
• 4.2.3 超參數(shù)敏感度實(shí)驗(yàn)51-53
• 4.3 本章小結(jié)53-55
• 第五章 全文總結(jié)55-57
• 5.1 結(jié)論55
• 5.2 展望55-57
• 參考文獻(xiàn)57-61
• 致謝61-63
• 攻讀學(xué)位期間發(fā)表的學(xué)術(shù)論文目錄63-65
• 攻讀學(xué)位期間參與的項(xiàng)目65-67

【相似文獻(xiàn)】

中國期刊全文數(shù)據(jù)庫 前10條

1 鄂國康;;矩陣分解的一般定理及基本分析[J];西南民族學(xué)院學(xué)報(bào)(自然科學(xué)版);1991年04期

2 田鐘穎,嚴(yán)克明;矩陣分解在運(yùn)動(dòng)分析中的應(yīng)用初探[J];甘肅工業(yè)大學(xué)學(xué)報(bào);1989年04期

3 王群英;;矩陣分解方法的探究[J];長春工業(yè)大學(xué)學(xué)報(bào)(自然科學(xué)版);2011年01期

4 張海建;;分布式矩陣分解算法在推薦系統(tǒng)中的研究與應(yīng)用[J];科技通報(bào);2013年12期

5 李華云;;F范數(shù)及矩陣分解實(shí)例研究[J];現(xiàn)代情報(bào);2008年10期

6 湯彬;段波;;伽馬測井分層解釋的單一系數(shù)分解法[J];物探化探計(jì)算技術(shù);1989年04期

7 陳伯倫;陳];鄒盛榮;徐秀蓮;;基于矩陣分解的二分網(wǎng)絡(luò)社區(qū)挖掘算法[J];計(jì)算機(jī)科學(xué);2014年02期

8 范云鵬;周水生;;矩陣分解[J];數(shù)學(xué)學(xué)習(xí)與研究;2012年03期

9 賀超波;湯庸;沈玉利;石玉強(qiáng);;應(yīng)用非負(fù)值矩陣分解模型的社區(qū)挖掘方法[J];小型微型計(jì)算機(jī)系統(tǒng);2014年06期

10 胡家贛;尺度變換和矩陣分解的收斂性[J];計(jì)算數(shù)學(xué);1983年01期

中國重要會(huì)議論文全文數(shù)據(jù)庫 前2條

1 王春江;錢若軍;王人鵬;楊聯(lián)萍;;矩陣分解在張力集成體系模態(tài)分析中的應(yīng)用[A];第九屆全國結(jié)構(gòu)工程學(xué)術(shù)會(huì)議論文集第Ⅰ卷[C];2000年

2 王春江;王人鵬;錢若軍;王穎;;矩陣分解技術(shù)在體系性態(tài)綜合分析中的初步應(yīng)用[A];“力學(xué)2000”學(xué)術(shù)大會(huì)論文集[C];2000年

中國博士學(xué)位論文全文數(shù)據(jù)庫 前5條

1 李英明;矩陣分解在數(shù)據(jù)挖掘中的應(yīng)用[D];浙江大學(xué);2014年

2 趙科科;低秩矩陣分解的正則化方法與應(yīng)用[D];浙江大學(xué);2012年

3 郭亦鴻;利用穆勒矩陣分解定量測量各向異性介質(zhì)微觀結(jié)構(gòu)[D];清華大學(xué);2014年

4 胡惠軼;基于分解的系統(tǒng)辨識(shí)方法研究[D];江南大學(xué);2014年

5 陳根浪;基于社交媒體的推薦技術(shù)若干問題研究[D];浙江大學(xué);2012年

中國碩士學(xué)位論文全文數(shù)據(jù)庫 前10條

1 秦曉暉;個(gè)性化微博推薦方法研究[D];華南理工大學(xué);2015年

2 劉鳳林;基于矩陣分解的協(xié)同過濾推薦算法研究[D];南京理工大學(xué);2015年

3 李源鑫;基于提升的信任融合矩陣分解推薦算法[D];福建師范大學(xué);2015年

4 陳洪濤;基于矩陣分解的常規(guī)與長尾捆綁推薦的博弈研究[D];福建師范大學(xué);2015年

5 張濟(jì)龍;基于概率矩陣分解的推薦算法研究[D];燕山大學(xué);2015年

6 鄧志豪;基于物品相似度和主題回歸的矩陣分解推薦算法[D];浙江大學(xué);2015年

7 余露;利用矩陣分解算法建模數(shù)據(jù)稀疏環(huán)境下用戶協(xié)同行為[D];杭州師范大學(xué);2015年

8 倪澤明;混合用戶行為建模的概率矩陣分解推薦算法[D];浙江大學(xué);2015年

9 丁浩;基于協(xié)同矩陣分解的藥物靶標(biāo)相互作用關(guān)系預(yù)測[D];復(fù)旦大學(xué);2014年

10 吳世偉;社會(huì)網(wǎng)絡(luò)中的鏈接分析[D];復(fù)旦大學(xué);2014年

，

本文編號(hào)：728083