【摘要】：推薦系統(tǒng)的任務(wù)是通過聯(lián)系用戶和產(chǎn)品,幫助用戶發(fā)現(xiàn)對自己有價值的信息。優(yōu)秀的推薦算法可以使得推薦系統(tǒng)的效率大大提高,增強推薦結(jié)果的正確性,滿足海量用戶的需求。異構(gòu)眾核體系結(jié)構(gòu)的發(fā)展為高性能計算技術(shù)與推薦系統(tǒng)的結(jié)合帶來了新的發(fā)展契機。本論文面向當(dāng)前主流的多核與眾核處理器實現(xiàn)并優(yōu)化一種推薦系統(tǒng)領(lǐng)域極具代表性的算法:交替最小二乘法(ALS),旨在從不同角度最大化該推薦算法的性能。本文的主要工作和創(chuàng)新點包含以下三點:1.使用OpenCL實現(xiàn)了ALS算法,使其具備跨平臺可移植特性;針對不同平臺實施不同的優(yōu)化技巧,組合不同優(yōu)化技巧產(chǎn)生多個代碼變體,從而方便研究者針對不同平臺選擇最優(yōu)的優(yōu)化方法。實驗結(jié)果表明,相對于基準(zhǔn)實現(xiàn),在Intel E5-2670平臺上優(yōu)化后的ALS的執(zhí)行速度提高為原來的5.5倍,在NVIDIA K20C平臺上的性能提高了21.2倍;該實現(xiàn)在多個數(shù)據(jù)集上的性能均優(yōu)于cuMF。2.在分析ALS算法熱點和剖析已有ALS實現(xiàn)所存在問題的基礎(chǔ)上,進一步提出了一種基于細(xì)粒度分塊并行策略的ALS實現(xiàn)。該實現(xiàn)通過細(xì)粒度的任務(wù)劃分與合理的線程配置實現(xiàn)了該算法性能上的大幅提升。實驗數(shù)據(jù)表明,與基準(zhǔn)實現(xiàn)相比,該實現(xiàn)在NVIDIA K20C平臺上實現(xiàn)了多達88倍的性能加速,在AMD gfx803平臺上實現(xiàn)了多達98倍的性能加速。此外,該實現(xiàn)在不同平臺和不同特征維數(shù)上的性能均超越了cuMF。3.根據(jù)推薦系統(tǒng)數(shù)據(jù)集的特點,提出了一種基于數(shù)據(jù)重用策略的ALS實現(xiàn)。該實現(xiàn)是基于一種新的稀疏矩陣壓縮分塊存儲格式以及數(shù)據(jù)重用/重排兩種優(yōu)化策略。數(shù)據(jù)重用策略降低了不同存儲層次之間的數(shù)據(jù)傳輸次數(shù),從而減少了訪問全局存儲的壓力。數(shù)據(jù)重排策略通過重新組織稀疏矩陣的行列,最大化數(shù)據(jù)重用的收益。實驗數(shù)據(jù)表明,相對于領(lǐng)域內(nèi)最快的Gates實現(xiàn),本文提出的實現(xiàn)在K20C平臺上達到約2.08倍的加速比,在TITAN X平臺上能夠取得約3.72倍的加速比。據(jù)筆者所知,這是目前領(lǐng)域內(nèi)最快的基于ALS算法的矩陣分解實現(xiàn)。本文結(jié)合了交替最小二乘算法、推薦系統(tǒng)數(shù)據(jù)集與異構(gòu)眾核體系結(jié)構(gòu)的特點,合理地將任務(wù)映射到處理器的計算核心,運用了多種面向體系結(jié)構(gòu)的優(yōu)化技巧,從而能夠充分地利用硬件架構(gòu)的資源,實現(xiàn)在不同平臺上矩陣分解性能的大幅度提升。本文所提出的ALS實現(xiàn)能夠被直接地融入到當(dāng)前主流地大數(shù)據(jù)處理框架中。
【圖文】：

這種無論對于信息消費者還是信息生產(chǎn)者都產(chǎn)生了很大的挑戰(zhàn)：對于消費者來說，從大量信息中找到自己感興趣的信息是一件非常困難的事情；信息生產(chǎn)者，讓自己生產(chǎn)的信息脫穎而出，受到廣大用戶的關(guān)注，也是一件困難的事情。推薦系統(tǒng)就是解決這一矛盾的重要工具。推薦系統(tǒng)的任務(wù)就是用戶和信息，一方面幫助用戶發(fā)現(xiàn)對自己有價值的信息，另一方面讓信息能現(xiàn)在它感興趣的用戶面前，從而實現(xiàn)信息需求者和信息生產(chǎn)者的雙贏。和搜擎不同，個性化推薦系統(tǒng)需要依賴用戶的行為數(shù)據(jù)，因此一般都是作為一個存在于不同網(wǎng)站之中。在互聯(lián)網(wǎng)的各類網(wǎng)站中都可以看到推薦系統(tǒng)的應(yīng)用，性化推薦系統(tǒng)在這些網(wǎng)站中的主要作用是通過分析大量用戶行為日志，給不戶提供個性化的頁面展示，從而提高網(wǎng)站的點擊率和轉(zhuǎn)化率[38]。因此，推薦系統(tǒng)廣泛應(yīng)用于互聯(lián)網(wǎng)的各大領(lǐng)域，包括電子商務(wù)（亞馬遜圖薦—圖 1.1，淘寶購物推薦—圖 1.2，京東購物）、電影和視頻（Netflix，YouTube性化音樂電臺（豆瓣電臺，Pandora，Last.fm，雅虎音樂）、社交網(wǎng)絡(luò)（Faceboowitter，Linkedin）、個性化閱讀（Google Reader，鮮果網(wǎng)）、基于位置的服Foursquare）、個性化郵件（Gmail，Tapestry）和廣告等等。

為三類：基于內(nèi)容的推薦系統(tǒng)，協(xié)同過濾推薦系統(tǒng)，混合推薦系統(tǒng)�；]系統(tǒng)的核心是能夠獲得物品的準(zhǔn)確描述（這些描述可以是人工生成的自動提取的）以及這些特征的重要記錄，基于這些信息就可以為用戶推趣的產(chǎn)品。然而，收集這些物品的描述是一項很大的工程，而且一些物要隨著時間的變化來更新信息數(shù)據(jù)庫。協(xié)同過濾方法則能夠避免該問題思想是：如果用戶集在過去有相同的偏好，那么可以假定在未來他們一似的偏好。混合推薦系統(tǒng)則是組合不同技術(shù)產(chǎn)生從而更好更精確的推薦在過去的幾年里，推薦系統(tǒng)的研究與發(fā)展如火如荼。未來，，搜索結(jié)果的能會將搜索引擎變?yōu)樯舷挛母兄耐扑]系統(tǒng)。類似地，其他一些飛速增，比如“物聯(lián)網(wǎng)”或“服務(wù)網(wǎng)”也會用到推薦系統(tǒng)。目前比較常用且具的協(xié)同過濾推薦算法有交替最小二乘法 (Alternating Least Squares, AL度下降法 (Cyclic Coordinate Descent, CCD)，隨機梯度下降法 (Stoient Descent, SGD)，奇異值分解 (Single Value Decomposition, SVD)等。推薦算法詳細(xì)介紹請參見 1.2 節(jié)。本文重點關(guān)注的是基于交替最小二乘法解推薦算法。
【學(xué)位授予單位】：國防科技大學(xué)
【學(xué)位級別】：碩士
【學(xué)位授予年份】：2018
【分類號】：TP391.3;O241.5

【相似文獻】

相關(guān)期刊論文 前10條

1 邵品琮;;最小二乘法介}9[J];數(shù)學(xué)通報;1963年07期

2 謝樂平;陳坡;謝淑坤;;最小二乘法教學(xué)研究[J];智富時代;2017年01期

3 侯麗麗;任海霞;孫曉丹;劉楊;申琦;;好多元分辨-交替最小二乘法研究姜黃素的性質(zhì)及降解過程[J];計算機與應(yīng)用化學(xué);2012年12期

4 王祖蔭;卡爾曼濾波與經(jīng)典最小二乘法[J];巖礦測試;1993年01期

5 R.P.柯雷;賈德華;;用于一般優(yōu)化問題的最小二乘法[J];鐵路航測;1987年03期

6 樓運豪;核測量實驗中數(shù)據(jù)處理方法研究[J];實驗室研究與探索;1987年03期

7 徐彥忠,丘思疇;用最小二乘法確定太陽電池電參數(shù)[J];華中理工大學(xué)學(xué)報;1988年S2期

8 王飛躍 ,王景美 ,謝貽權(quán);最佳格點集在最小二乘法中的應(yīng)用[J];浙江大學(xué)學(xué)報(自然科學(xué)版);1988年03期

9 谷峰;最小二乘法解對切比雪夫解的逼近[J];浙江大學(xué)學(xué)報(自然科學(xué)版);1988年06期

10 孫鎖泰 ,楊加明;連續(xù)性最小二乘法解正交異性薄板彎曲問題[J];江蘇工學(xué)院學(xué)報;1988年03期

相關(guān)會議論文 前10條

1 王大愚;;最小二乘法平滑技術(shù)在體育中運用的嘗試[A];第四屆全國運動生物力學(xué)學(xué)術(shù)會議論文集（二）[C];1983年

2 朱鳳蓉;徐江;董宏波;周國慶;李志明;;最小二乘法在同位素質(zhì)譜學(xué)中的應(yīng)用[A];2007年全國質(zhì)譜學(xué)會無機質(zhì)譜、同位素質(zhì)譜、質(zhì)譜儀器和教育學(xué)專業(yè)委員會學(xué)術(shù)交流會論文集[C];2007年

3 柳明;劉雨;蘇寶庫;蔣效雄;;總體最小二乘法辨識慣導(dǎo)平臺誤差模型研究[A];2007'儀表，自動化及先進集成技術(shù)大會論文集（一）[C];2007年

4 沈燕華;王勇;;膜結(jié)構(gòu)裁剪膜片展開的約束最小二乘法[A];計算機技術(shù)在工程建設(shè)中的應(yīng)用——第十二屆全國工程建設(shè)計算機應(yīng)用學(xué)術(shù)會議論文集[C];2004年

5 蔣維;張文坤;羅俊波;楊樹生;;基于最小二乘法的機床熱誤差建模補償技術(shù)[A];“裝備中國”2017年“創(chuàng)新濱海·SEW杯”高端裝備創(chuàng)新設(shè)計大賽論文集[C];2017年

6 張武軍;尹旭日;徐泉峰;;基于音圈電機驅(qū)動的快速定位系統(tǒng)參數(shù)辨識[A];第六屆全國信息獲取與處理學(xué)術(shù)會議論文集（2）[C];2008年

7 董艷萍;邢昱;趙文哠;;基于最小二乘法的社會網(wǎng)絡(luò)辨識[A];第37屆中國控制會議論文集（B）[C];2018年

8 毛利軍;陳少林;;基于假設(shè)模態(tài)法的結(jié)構(gòu)模態(tài)識別[A];第九屆全國振動理論及應(yīng)用學(xué)術(shù)會議論文集[C];2007年

9 陳云生;;用最小二乘法與搜索法尋求A值與風(fēng)速V關(guān)系的數(shù)學(xué)表達式[A];中國電子學(xué)會可靠性分會第十三屆學(xué)術(shù)年會論文選[C];2006年

10 張波;張大慶;于一發(fā);張剛剛;;基于數(shù)據(jù)的自適應(yīng)動態(tài)規(guī)劃——總體最小二乘法[A];第26屆中國控制與決策會議論文集[C];2014年

相關(guān)博士學(xué)位論文 前10條

1 覃永輝;偏微分方程的耦合Legendre Chebyshev配置最小二乘法[D];上海大學(xué);2016年

2 于志云;非線性方程的混合有限元研究[D];鄭州大學(xué);2012年

3 高俊文;面向機械故障診斷應(yīng)用的盲分離技術(shù)研究[D];華南理工大學(xué);2016年

4 王彩華;穩(wěn)態(tài)奇異擾動問題的數(shù)值解[D];天津大學(xué);2014年

5 李壯;短基線定位關(guān)鍵技術(shù)研究[D];哈爾濱工程大學(xué);2013年

6 孔祥兵;基于同質(zhì)區(qū)分析的高光譜影像混合像元分解[D];武漢大學(xué);2012年

7 陳學(xué)松;強化學(xué)習(xí)及其在機器人系統(tǒng)中的應(yīng)用研究[D];廣東工業(yè)大學(xué);2011年

8 馬永杰;基于非線性化學(xué)指紋圖譜技術(shù)的乳品質(zhì)控方法研究及數(shù)學(xué)模型構(gòu)建[D];陜西科技大學(xué);2016年

9 徐宗秋;基于多導(dǎo)航衛(wèi)星系統(tǒng)的精密單點定位模型與方法研究[D];遼寧工程技術(shù)大學(xué);2013年

10 鄧祥力;大型變壓器保護新原理研究和裝置研制[D];華中科技大學(xué);2011年

相關(guān)碩士學(xué)位論文 前10條

1 陳靜;面向眾核平臺交替最小二乘法的實現(xiàn)與性能優(yōu)化[D];國防科技大學(xué);2018年

2 Meyof Kweyui Ngongang Mark;基于無線電信號的精確定位[D];北京郵電大學(xué);2019年

3 常保利;電控機械式自動變速器智能換擋策略建模與仿真研究[D];長安大學(xué);2018年

4 張秀楠;基于可見光的室內(nèi)三維定位算法研究[D];南京師范大學(xué);2018年

5 陳佩玉;基于平面波綜合技術(shù)的雙站柱面近場散射測量方法研究[D];西安電子科技大學(xué);2018年

6 高庚;最小二乘法和總體最小二乘法線性回歸中的估值漂移及其判定[D];太原理工大學(xué);2018年

7 何加寶;多段徑向基函數(shù)網(wǎng)絡(luò)的正交最小二乘法和正則最小二乘法[D];安徽工業(yè)大學(xué);2012年

8 董巧玲;不同誤差影響模型下總體最小二乘法在多元線性回歸中的應(yīng)用研究[D];太原理工大學(xué);2016年

9 韓倩;基于模糊對數(shù)最小二乘法的企業(yè)價值評價研究[D];成都理工大學(xué);2011年

10 陳雪松;基于遞歸最小二乘法的電壓閃變研究[D];四川大學(xué);2006年

本文編號：2620924