基于注意力模型的推薦算法研究
發(fā)布時(shí)間:2021-01-21 09:57
推薦算法向用戶推薦符合用戶喜好的商品,使商家獲得更多的利益,讓用戶有更好的使用體驗(yàn)。常見的推薦算法通過協(xié)同過濾的過程,根據(jù)用戶對(duì)商品的評(píng)分歷史,尋找具有相似喜好的用戶,進(jìn)行相互推薦。但有時(shí)用戶的評(píng)分并不能準(zhǔn)確地代表用戶的喜愛程度,因?yàn)槊總(gè)人評(píng)價(jià)標(biāo)準(zhǔn)不同,所以用戶的評(píng)分行為存在差異,導(dǎo)致推薦效果不佳。本文提出一種基于注意力模型的推薦算法(Attention-Based Recommendation Algorithm,ABRA)。通過構(gòu)建情感注意力模型,分析用戶的評(píng)論,對(duì)用戶的評(píng)論進(jìn)行情感分析及情感極性鑒定。為了能夠識(shí)別用戶情感,將注意力模型加入循環(huán)神經(jīng)網(wǎng)絡(luò)中,利用情感詞典判斷每個(gè)詞語(yǔ)的情感傾向值,通過訓(xùn)練使模型具有識(shí)別情感詞的能力。在情感注意力模型訓(xùn)練的過程中,不僅擬合情感分類的結(jié)果,而且模型隱藏層節(jié)點(diǎn)的注意力權(quán)重?cái)M合情感詞典中詞語(yǔ)的情感傾向值,從而為模型生成情感特征向量。提出的上下文注意力模型使單詞的狀態(tài)由窗口大小為w的上下文狀態(tài)決定,達(dá)到充分利用上下文信息的目的。本文將情感注意力模型應(yīng)用在推薦系統(tǒng)中,但是并不是每一條用戶項(xiàng)目評(píng)分矩陣中的記錄都需要被更新。因此提出評(píng)分更正門,判斷用戶...
【文章來源】:哈爾濱工程大學(xué)黑龍江省 211工程院校
【文章頁(yè)數(shù)】:70 頁(yè)
【學(xué)位級(jí)別】:碩士
【部分圖文】:
循環(huán)神經(jīng)網(wǎng)絡(luò)圖2.1是一個(gè)典型的循環(huán)神經(jīng)網(wǎng)絡(luò)
還取決于上一次隱藏層的值 s。將循環(huán)神經(jīng)網(wǎng)絡(luò)的循環(huán)體展開得到如圖 2.2 所示的結(jié)構(gòu):圖 2.2 循環(huán)神經(jīng)網(wǎng)絡(luò)展開圖圖2.2更清晰地表示循環(huán)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu),循環(huán)神經(jīng)在每一時(shí)刻都會(huì)有一個(gè)輸入tx ,隱藏層的狀態(tài)是ts ,輸出是to ,而且ts 的值不僅僅取決于tx ,還取決于t1s ,通過下面的過程實(shí)現(xiàn)循環(huán)神經(jīng)網(wǎng)絡(luò)的計(jì)算:( )t to =g Vs(2-18)1( )t t ts f Ux Ws = +(2-19)式(2-18)是輸出層的計(jì)算公式,輸出層是全連接層,每個(gè)節(jié)點(diǎn)都與隱層節(jié)點(diǎn)相連。V 是權(quán)重矩陣
圖 2.4 GRU 結(jié)構(gòu)圖兩個(gè)部分構(gòu)成::更新門控制前一時(shí)刻隱層的輸出對(duì)當(dāng)前隱層的影響程度刻的隱藏、層輸出對(duì)當(dāng)前隱層的影響越大。更新門的計(jì)算1( [ , ])t z t tz σW h x = 刻 t 處 GRU 單元的輸入狀態(tài),t1h 表示 t 1時(shí)刻的隱層狀態(tài)狀態(tài)tx 和前一時(shí)刻 t-1 時(shí)刻的隱層狀態(tài)t1h 做線性變換,并在 0 到 1 之間。:重置門控制著前一時(shí)刻的信息被忽略的程度大小,重置置門的計(jì)算方式如下:計(jì)算公式如下所示:1( [ , ])t r t tr σW h x = 刻 t 處 GRU 單元的輸入狀態(tài),t1h 表示 t-1 時(shí)刻的隱層狀
【參考文獻(xiàn)】:
期刊論文
[1]基于情景上下文與信任關(guān)系的旅游景點(diǎn)推薦算法[J]. 沈記全,王磊,侯占偉,薛霄. 計(jì)算機(jī)應(yīng)用研究. 2018(12)
[2]改進(jìn)Pearson相關(guān)系數(shù)的個(gè)性化推薦算法[J]. 陳功平,王紅. 山東農(nóng)業(yè)大學(xué)學(xué)報(bào)(自然科學(xué)版). 2016(06)
[3]采用連續(xù)詞袋模型(CBOW)的領(lǐng)域術(shù)語(yǔ)自動(dòng)抽取研究[J]. 姜霖,王東波. 現(xiàn)代圖書情報(bào)技術(shù). 2016(02)
[4]一種改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)在手寫體識(shí)別上的應(yīng)用[J]. 薛皓天,楊晶東,談凱德. 電子科技. 2015(05)
[5]基于用戶近鄰約束的矩陣因子分解算法[J]. 查九,李振博,徐桂瓊. 計(jì)算機(jī)技術(shù)與發(fā)展. 2015(06)
[6]隨機(jī)梯度下降法的收斂速度(英文)[J]. 汪寶彬,戴濟(jì)能. 數(shù)學(xué)雜志. 2012(01)
[7]基于加權(quán)余弦相似度的XML文檔聚類研究[J]. 李巍,孫濤,陳建孝,羅梓恒,李雄飛. 吉林大學(xué)學(xué)報(bào)(信息科學(xué)版). 2010(01)
碩士論文
[1]基于深度學(xué)習(xí)的電影推薦系統(tǒng)研究與實(shí)現(xiàn)[D]. 王建洋.西南交通大學(xué) 2018
[2]基于互聯(lián)網(wǎng)用戶特征的商品推薦系統(tǒng)研究[D]. 黃鵬.東華大學(xué) 2014
本文編號(hào):2990947
【文章來源】:哈爾濱工程大學(xué)黑龍江省 211工程院校
【文章頁(yè)數(shù)】:70 頁(yè)
【學(xué)位級(jí)別】:碩士
【部分圖文】:
循環(huán)神經(jīng)網(wǎng)絡(luò)圖2.1是一個(gè)典型的循環(huán)神經(jīng)網(wǎng)絡(luò)
還取決于上一次隱藏層的值 s。將循環(huán)神經(jīng)網(wǎng)絡(luò)的循環(huán)體展開得到如圖 2.2 所示的結(jié)構(gòu):圖 2.2 循環(huán)神經(jīng)網(wǎng)絡(luò)展開圖圖2.2更清晰地表示循環(huán)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu),循環(huán)神經(jīng)在每一時(shí)刻都會(huì)有一個(gè)輸入tx ,隱藏層的狀態(tài)是ts ,輸出是to ,而且ts 的值不僅僅取決于tx ,還取決于t1s ,通過下面的過程實(shí)現(xiàn)循環(huán)神經(jīng)網(wǎng)絡(luò)的計(jì)算:( )t to =g Vs(2-18)1( )t t ts f Ux Ws = +(2-19)式(2-18)是輸出層的計(jì)算公式,輸出層是全連接層,每個(gè)節(jié)點(diǎn)都與隱層節(jié)點(diǎn)相連。V 是權(quán)重矩陣
圖 2.4 GRU 結(jié)構(gòu)圖兩個(gè)部分構(gòu)成::更新門控制前一時(shí)刻隱層的輸出對(duì)當(dāng)前隱層的影響程度刻的隱藏、層輸出對(duì)當(dāng)前隱層的影響越大。更新門的計(jì)算1( [ , ])t z t tz σW h x = 刻 t 處 GRU 單元的輸入狀態(tài),t1h 表示 t 1時(shí)刻的隱層狀態(tài)狀態(tài)tx 和前一時(shí)刻 t-1 時(shí)刻的隱層狀態(tài)t1h 做線性變換,并在 0 到 1 之間。:重置門控制著前一時(shí)刻的信息被忽略的程度大小,重置置門的計(jì)算方式如下:計(jì)算公式如下所示:1( [ , ])t r t tr σW h x = 刻 t 處 GRU 單元的輸入狀態(tài),t1h 表示 t-1 時(shí)刻的隱層狀
【參考文獻(xiàn)】:
期刊論文
[1]基于情景上下文與信任關(guān)系的旅游景點(diǎn)推薦算法[J]. 沈記全,王磊,侯占偉,薛霄. 計(jì)算機(jī)應(yīng)用研究. 2018(12)
[2]改進(jìn)Pearson相關(guān)系數(shù)的個(gè)性化推薦算法[J]. 陳功平,王紅. 山東農(nóng)業(yè)大學(xué)學(xué)報(bào)(自然科學(xué)版). 2016(06)
[3]采用連續(xù)詞袋模型(CBOW)的領(lǐng)域術(shù)語(yǔ)自動(dòng)抽取研究[J]. 姜霖,王東波. 現(xiàn)代圖書情報(bào)技術(shù). 2016(02)
[4]一種改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)在手寫體識(shí)別上的應(yīng)用[J]. 薛皓天,楊晶東,談凱德. 電子科技. 2015(05)
[5]基于用戶近鄰約束的矩陣因子分解算法[J]. 查九,李振博,徐桂瓊. 計(jì)算機(jī)技術(shù)與發(fā)展. 2015(06)
[6]隨機(jī)梯度下降法的收斂速度(英文)[J]. 汪寶彬,戴濟(jì)能. 數(shù)學(xué)雜志. 2012(01)
[7]基于加權(quán)余弦相似度的XML文檔聚類研究[J]. 李巍,孫濤,陳建孝,羅梓恒,李雄飛. 吉林大學(xué)學(xué)報(bào)(信息科學(xué)版). 2010(01)
碩士論文
[1]基于深度學(xué)習(xí)的電影推薦系統(tǒng)研究與實(shí)現(xiàn)[D]. 王建洋.西南交通大學(xué) 2018
[2]基于互聯(lián)網(wǎng)用戶特征的商品推薦系統(tǒng)研究[D]. 黃鵬.東華大學(xué) 2014
本文編號(hào):2990947
本文鏈接:http://sikaile.net/kejilunwen/shengwushengchang/2990947.html
最近更新
教材專著