基于注意力機(jī)制的商品推薦算法的研究與實現(xiàn)
發(fā)布時間:2021-09-15 18:54
近年來,隨著大數(shù)據(jù)時代的到來,數(shù)據(jù)挖掘成為了各類專家學(xué)者的研究熱點,伴隨著數(shù)據(jù)挖掘的不斷興起,推薦系統(tǒng)作為數(shù)據(jù)挖掘技術(shù)的一個重要分支,也得到了越來越多的關(guān)注。推薦系統(tǒng)可以向用戶提供精確地推薦服務(wù),特別是在電子商務(wù)領(lǐng)域,各類推薦算法扮演著越來越重要的角色。在各類推薦算法中,傳統(tǒng)的推薦算法和基于深度模型的算法已被廣泛研究。傳統(tǒng)的推薦算法和基于深度模型的推薦算法已被無數(shù)的研究證實可以提高推薦的準(zhǔn)確性,還有一些研究學(xué)者將兩種方式結(jié)合在一起,形成優(yōu)勢互補,使得推薦精度進(jìn)一步提高,但是這些混合算法中仍然存在數(shù)據(jù)稀疏和冷啟動問題。再者,對于基于用戶交互序列的個性化推薦系統(tǒng)來說,現(xiàn)有的基于循環(huán)神經(jīng)網(wǎng)絡(luò)的推薦算法存在著無法充分挖掘用戶交互序列中隱含的用戶興趣等問題。因此,為了解決上述問題以提高個性化推薦算法在電子商務(wù)領(lǐng)域的推薦準(zhǔn)確性,我們進(jìn)行了以下研究。本文所進(jìn)行的具體工作內(nèi)容和主要創(chuàng)新點如下:1.本論文首先介紹了本文的研究背景、研究意義以及國內(nèi)外傳統(tǒng)推薦算法和基于神經(jīng)網(wǎng)絡(luò)的推薦算法研究現(xiàn)狀。然后闡述了推薦系統(tǒng)領(lǐng)域的相關(guān)技術(shù),其中包括循環(huán)神經(jīng)網(wǎng)絡(luò)相關(guān)模型和注意力機(jī)制。最后,本文詳細(xì)設(shè)計了一種基于注意力機(jī)...
【文章來源】:山東師范大學(xué)山東省
【文章頁數(shù)】:57 頁
【學(xué)位級別】:碩士
【部分圖文】:
傳統(tǒng)推薦算法分類波器的所有卷積結(jié)果進(jìn)行最大池化,通過取最大的值來捕獲過濾器提取的最明顯的特征
推薦系統(tǒng)作為是數(shù)據(jù)挖掘技術(shù)的一個重要分支,不同于其它技術(shù),商品個性化推薦系統(tǒng)具有交互性和實時性的特點。商品個性化推薦系統(tǒng)的實時性是指系統(tǒng)可以不僅通過用戶的歷史記錄而且通過用戶當(dāng)前一段時間的交互行為對用戶進(jìn)行個性化推薦;商品個性化推薦系統(tǒng)的交互性是指系統(tǒng)可以根據(jù)用戶的反應(yīng)進(jìn)行推薦結(jié)果反饋,并不斷的優(yōu)化推薦結(jié)果。個性化推薦模型首先根據(jù)用戶的歷史交互序列提取出用戶的興趣,然后將用戶興趣和待推薦項目的特征運用推薦算法進(jìn)行計算,最后將計算結(jié)果返回給用戶。個性化推薦系統(tǒng)工作原理圖如圖21所示。圖2-1個性化推薦系統(tǒng)工作原理圖
山東師范大學(xué)碩士學(xué)位論文82.2循環(huán)神經(jīng)網(wǎng)絡(luò)及基于循環(huán)神經(jīng)網(wǎng)絡(luò)的相關(guān)模型2.2.1循環(huán)神經(jīng)網(wǎng)絡(luò)循環(huán)神經(jīng)網(wǎng)絡(luò)(RecurrentNeuralNetwork,RNN)的概念由Williams等人在文獻(xiàn)[35]中提出,由于RNN能夠建模序列數(shù)據(jù)在不同時刻數(shù)據(jù)之間的依賴關(guān)系,因此提出之后便開始廣泛應(yīng)用于個性化推薦中。從網(wǎng)絡(luò)結(jié)構(gòu)上來說,RNN是由不斷進(jìn)行重復(fù)迭代的單元組成的,每個單元中不僅包含當(dāng)前的信息還包含之前的信息,并且每個單元的輸出都會受到之前信息的影響。也就是說,RNN的隱藏層之間的結(jié)點不是相互獨立的而是有連接的,在隱藏層中,每個節(jié)點包含的數(shù)據(jù)不僅包含本時刻輸入層的輸入,而且包含上一個節(jié)點的輸出。RNN的模型示意圖如下:圖2-2RNN模型示意圖如圖2-2,左邊是RNN的整體結(jié)構(gòu)圖,右邊是在時間軸上展開的結(jié)構(gòu)圖,其中tx是第t步的輸入,ts為隱藏層第t步的狀態(tài),它是網(wǎng)絡(luò)的記憶單元,to是第t步的輸出,U、V和W為三個權(quán)重矩陣,分別表示輸入和隱藏層間的權(quán)重矩陣、隱藏層和輸出間的權(quán)重矩陣以及t時刻和t+1時刻隱藏層間的權(quán)重矩陣。不同于傳統(tǒng)神經(jīng)網(wǎng)絡(luò)中每個網(wǎng)絡(luò)層中不共享參數(shù),在RNN中,每輸入一步,每一層各自都共享參數(shù)U,V,W。由于參數(shù)的共享導(dǎo)致了網(wǎng)絡(luò)中需要學(xué)習(xí)的參數(shù)個數(shù)大大降低,也說明了RNN的每一步除了輸入不同之外,本質(zhì)上是在做同樣的事情。RNN可由如下公式所示:)tanh(1tttWsUsx(2.1))max(ttVssofto1(2.2)由于RNN已經(jīng)在實踐中被證實在序列化數(shù)據(jù)建模方面具有強(qiáng)大的能力,同時也已經(jīng)在詞性標(biāo)注、機(jī)器翻譯以及推薦系統(tǒng)等方面[25,36,37]得到廣泛應(yīng)用。
【參考文獻(xiàn)】:
期刊論文
[1]基于注意力卷積的神經(jīng)機(jī)器翻譯[J]. 汪琪,段湘煜. 計算機(jī)科學(xué). 2018(11)
[2]基于改進(jìn)聚類和矩陣分解的協(xié)同過濾推薦算法[J]. 王永貴,宋真真,肖成龍. 計算機(jī)應(yīng)用. 2018(04)
[3]結(jié)合概率矩陣分解的混合型推薦算法[J]. 楊豐瑞,鄭云俊,張昌. 計算機(jī)應(yīng)用. 2018(03)
[4]談?wù)劇巴扑]系統(tǒng)”和“搜索引擎”[J]. 陳運文. 計算機(jī)與網(wǎng)絡(luò). 2017(24)
[5]個性化推薦系統(tǒng)綜述[J]. 王國霞,劉賀平. 計算機(jī)工程與應(yīng)用. 2012(07)
本文編號:3396610
【文章來源】:山東師范大學(xué)山東省
【文章頁數(shù)】:57 頁
【學(xué)位級別】:碩士
【部分圖文】:
傳統(tǒng)推薦算法分類波器的所有卷積結(jié)果進(jìn)行最大池化,通過取最大的值來捕獲過濾器提取的最明顯的特征
推薦系統(tǒng)作為是數(shù)據(jù)挖掘技術(shù)的一個重要分支,不同于其它技術(shù),商品個性化推薦系統(tǒng)具有交互性和實時性的特點。商品個性化推薦系統(tǒng)的實時性是指系統(tǒng)可以不僅通過用戶的歷史記錄而且通過用戶當(dāng)前一段時間的交互行為對用戶進(jìn)行個性化推薦;商品個性化推薦系統(tǒng)的交互性是指系統(tǒng)可以根據(jù)用戶的反應(yīng)進(jìn)行推薦結(jié)果反饋,并不斷的優(yōu)化推薦結(jié)果。個性化推薦模型首先根據(jù)用戶的歷史交互序列提取出用戶的興趣,然后將用戶興趣和待推薦項目的特征運用推薦算法進(jìn)行計算,最后將計算結(jié)果返回給用戶。個性化推薦系統(tǒng)工作原理圖如圖21所示。圖2-1個性化推薦系統(tǒng)工作原理圖
山東師范大學(xué)碩士學(xué)位論文82.2循環(huán)神經(jīng)網(wǎng)絡(luò)及基于循環(huán)神經(jīng)網(wǎng)絡(luò)的相關(guān)模型2.2.1循環(huán)神經(jīng)網(wǎng)絡(luò)循環(huán)神經(jīng)網(wǎng)絡(luò)(RecurrentNeuralNetwork,RNN)的概念由Williams等人在文獻(xiàn)[35]中提出,由于RNN能夠建模序列數(shù)據(jù)在不同時刻數(shù)據(jù)之間的依賴關(guān)系,因此提出之后便開始廣泛應(yīng)用于個性化推薦中。從網(wǎng)絡(luò)結(jié)構(gòu)上來說,RNN是由不斷進(jìn)行重復(fù)迭代的單元組成的,每個單元中不僅包含當(dāng)前的信息還包含之前的信息,并且每個單元的輸出都會受到之前信息的影響。也就是說,RNN的隱藏層之間的結(jié)點不是相互獨立的而是有連接的,在隱藏層中,每個節(jié)點包含的數(shù)據(jù)不僅包含本時刻輸入層的輸入,而且包含上一個節(jié)點的輸出。RNN的模型示意圖如下:圖2-2RNN模型示意圖如圖2-2,左邊是RNN的整體結(jié)構(gòu)圖,右邊是在時間軸上展開的結(jié)構(gòu)圖,其中tx是第t步的輸入,ts為隱藏層第t步的狀態(tài),它是網(wǎng)絡(luò)的記憶單元,to是第t步的輸出,U、V和W為三個權(quán)重矩陣,分別表示輸入和隱藏層間的權(quán)重矩陣、隱藏層和輸出間的權(quán)重矩陣以及t時刻和t+1時刻隱藏層間的權(quán)重矩陣。不同于傳統(tǒng)神經(jīng)網(wǎng)絡(luò)中每個網(wǎng)絡(luò)層中不共享參數(shù),在RNN中,每輸入一步,每一層各自都共享參數(shù)U,V,W。由于參數(shù)的共享導(dǎo)致了網(wǎng)絡(luò)中需要學(xué)習(xí)的參數(shù)個數(shù)大大降低,也說明了RNN的每一步除了輸入不同之外,本質(zhì)上是在做同樣的事情。RNN可由如下公式所示:)tanh(1tttWsUsx(2.1))max(ttVssofto1(2.2)由于RNN已經(jīng)在實踐中被證實在序列化數(shù)據(jù)建模方面具有強(qiáng)大的能力,同時也已經(jīng)在詞性標(biāo)注、機(jī)器翻譯以及推薦系統(tǒng)等方面[25,36,37]得到廣泛應(yīng)用。
【參考文獻(xiàn)】:
期刊論文
[1]基于注意力卷積的神經(jīng)機(jī)器翻譯[J]. 汪琪,段湘煜. 計算機(jī)科學(xué). 2018(11)
[2]基于改進(jìn)聚類和矩陣分解的協(xié)同過濾推薦算法[J]. 王永貴,宋真真,肖成龍. 計算機(jī)應(yīng)用. 2018(04)
[3]結(jié)合概率矩陣分解的混合型推薦算法[J]. 楊豐瑞,鄭云俊,張昌. 計算機(jī)應(yīng)用. 2018(03)
[4]談?wù)劇巴扑]系統(tǒng)”和“搜索引擎”[J]. 陳運文. 計算機(jī)與網(wǎng)絡(luò). 2017(24)
[5]個性化推薦系統(tǒng)綜述[J]. 王國霞,劉賀平. 計算機(jī)工程與應(yīng)用. 2012(07)
本文編號:3396610
本文鏈接:http://sikaile.net/kejilunwen/shengwushengchang/3396610.html
最近更新
教材專著