基于自注意力機(jī)制的混合推薦模型的研究與應(yīng)用
發(fā)布時(shí)間:2021-11-03 21:47
推薦系統(tǒng)在現(xiàn)代網(wǎng)絡(luò)服務(wù)中發(fā)揮著越來(lái)越重要的作用。傳統(tǒng)的推薦模型盡管應(yīng)用前景廣闊,但仍面臨一些挑戰(zhàn):1)當(dāng)能夠獲取到的評(píng)分信息非常稀少時(shí),模型容易遭受數(shù)據(jù)稀疏性和冷啟動(dòng)問(wèn)題。2)傳統(tǒng)的推薦模型都是淺層模型,無(wú)法學(xué)習(xí)到用戶(hù)和項(xiàng)目的深層次特征。3)模型的基本假設(shè)是潛在向量各個(gè)元素對(duì)模型的預(yù)測(cè)結(jié)果的權(quán)重相同,會(huì)導(dǎo)致用戶(hù)-物品間重點(diǎn)關(guān)系表達(dá)不顯著。與傳統(tǒng)的推薦模型相比,深度學(xué)習(xí)模型可以自動(dòng)捕捉數(shù)據(jù)本身內(nèi)部錯(cuò)綜復(fù)雜的關(guān)系,挖掘到用戶(hù)和項(xiàng)目特征。同時(shí)它還可以有效捕捉用戶(hù)和項(xiàng)目的非線性歷史交互,能夠獲取更復(fù)雜抽象的高階交互特征表示。受人類(lèi)視覺(jué)注意力的啟發(fā),研究學(xué)者們提出了注意力機(jī)制理論。它使神經(jīng)網(wǎng)絡(luò)只專(zhuān)注輸入特征中重要的部分,也就是給重要的特征賦予更高的權(quán)重。這樣模型不僅能夠捕獲用戶(hù)和項(xiàng)目間的重要組合特征,而且各個(gè)特征的權(quán)重值還可以可視化,使得在推薦任務(wù)中,模型具有優(yōu)秀的可解釋性。因此,本文將結(jié)合注意力機(jī)制和深度學(xué)習(xí)的優(yōu)勢(shì),提出一種基于自注意力機(jī)制的混合推薦算法。本文在以下四個(gè)方面對(duì)推薦系統(tǒng)做了創(chuàng)新性研宄:(1)如何將多源異構(gòu)輔助信息融合到推薦系統(tǒng)中。在現(xiàn)有的大部分研究工作中,都是采用多層全連接神經(jīng)網(wǎng)...
【文章來(lái)源】:上海交通大學(xué)上海市 211工程院校 985工程院校 教育部直屬院校
【文章頁(yè)數(shù)】:70 頁(yè)
【學(xué)位級(jí)別】:碩士
【部分圖文】:
推薦系統(tǒng)工作原理圖
上海交通大學(xué)工程碩士學(xué)位論文第二章8反饋數(shù)據(jù)。但是隱式反饋數(shù)據(jù)也存在缺陷,隱式反饋一般都是二元的,一個(gè)沒(méi)有交互的項(xiàng)目的語(yǔ)義不是很清晰,系統(tǒng)無(wú)法判斷是用戶(hù)討厭這個(gè)項(xiàng)目還是用戶(hù)沒(méi)有接觸過(guò)這個(gè)項(xiàng)目,2.2推薦系統(tǒng)算法的類(lèi)別推薦系統(tǒng)中算法經(jīng)過(guò)多年不斷的發(fā)展,逐漸形成了一個(gè)類(lèi)別劃分標(biāo)準(zhǔn)。目前,推薦算法被劃分成三個(gè)大類(lèi),具體的分類(lèi)情況如圖2-2所示。圖2-2推薦算法分類(lèi)Fig.2-2Classificationofrecommendedalgorithms2.2.1基于內(nèi)容的推薦算法算法的核心思想是假如用戶(hù)曾經(jīng)交互過(guò)某個(gè)項(xiàng)目,那么認(rèn)為用戶(hù)會(huì)對(duì)和這個(gè)項(xiàng)目?jī)?nèi)容上相似的項(xiàng)目感興趣,這是一種項(xiàng)目到項(xiàng)目關(guān)聯(lián)的方法,它關(guān)注的是項(xiàng)目本身的內(nèi)容屬性。首先從得到的反饋數(shù)據(jù)中獲取用戶(hù)交互過(guò)的項(xiàng)目,項(xiàng)目一般被表述為文本的形式,采用文本特征提取技術(shù)(如:TF-IDF[29])從項(xiàng)目的內(nèi)容文本中抽取關(guān)鍵特征作為用戶(hù)的偏好特征,然后提取候選項(xiàng)目的內(nèi)容特征,然后匹配偏好特征與內(nèi)容特征的相似度,最后將相似度值降序排列,將排在前N項(xiàng)候選項(xiàng)目推薦給用戶(hù)。其算法構(gòu)建的過(guò)程一般包括以下幾個(gè)步驟:1)獲取用戶(hù)偏好特征。系統(tǒng)會(huì)通過(guò)用戶(hù)的歷史交互過(guò)的項(xiàng)目,抽取項(xiàng)目的關(guān)鍵特征信息,然后按照一定的方式構(gòu)建用戶(hù)的偏好特征。2)獲取候選項(xiàng)目特征。當(dāng)有新的候選項(xiàng)目加入系統(tǒng)時(shí),系統(tǒng)會(huì)采用相關(guān)的
上海交通大學(xué)工程碩士學(xué)位論文第二章10圖2-3基于用戶(hù)的協(xié)同過(guò)濾的電影推薦Fig.2-3Movierecommendationbasedonusercollaborativefiltering2.基于項(xiàng)目的協(xié)同過(guò)濾算法的基本理論是不同的項(xiàng)目在評(píng)分上很接近時(shí),認(rèn)為這些項(xiàng)目具有相似性,目標(biāo)用戶(hù)會(huì)對(duì)和歷史交互過(guò)的項(xiàng)目相似的項(xiàng)目感興趣。算法的目的是給用戶(hù)推薦和他偏好的項(xiàng)目相似的項(xiàng)目,它與基于內(nèi)容的推薦算法的最大區(qū)別在于計(jì)算項(xiàng)目之間的相似性時(shí)采用的信息不同,基于內(nèi)容的推薦采用的是項(xiàng)目本身的內(nèi)容描述信息和一些屬性信息,而基于項(xiàng)目的協(xié)同過(guò)濾采用的是用戶(hù)對(duì)項(xiàng)目的評(píng)分矩陣。圖2-4給出了基于項(xiàng)目的協(xié)同過(guò)濾實(shí)例說(shuō)明,從圖中可知,電影A和電影C同時(shí)被用戶(hù)甲和用戶(hù)乙偏愛(ài),電影B只有用戶(hù)乙感興趣,算法認(rèn)為電影A在一定程度上相似于電影C,于是當(dāng)電影A被用戶(hù)丙喜歡時(shí),則認(rèn)為電影C也會(huì)被用戶(hù)丙喜歡,所以將電影C推薦給用戶(hù)丙。圖2-4基于項(xiàng)目的協(xié)同過(guò)濾的電影推薦Fig.2-4MovierecommendationbasedonItemcollaborativefiltering
【參考文獻(xiàn)】:
期刊論文
[1]基于深度學(xué)習(xí)的推薦系統(tǒng)研究綜述[J]. 黃立威,江碧濤,呂守業(yè),劉艷博,李德毅. 計(jì)算機(jī)學(xué)報(bào). 2018(07)
[2]利用word2vec對(duì)中文詞進(jìn)行聚類(lèi)的研究[J]. 鄭文超,徐鵬. 軟件. 2013(12)
[3]個(gè)性化推薦系統(tǒng)綜述[J]. 王國(guó)霞,劉賀平. 計(jì)算機(jī)工程與應(yīng)用. 2012(07)
[4]個(gè)性化推薦系統(tǒng)的研究進(jìn)展[J]. 劉建國(guó),周濤,汪秉宏. 自然科學(xué)進(jìn)展. 2009(01)
碩士論文
[1]基于語(yǔ)義的個(gè)性化推薦模型研究[D]. 李祉瑩.北京郵電大學(xué) 2015
[2]面向分布式異構(gòu)數(shù)據(jù)源的個(gè)性化推薦系統(tǒng)的研究與實(shí)現(xiàn)[D]. 吳天龍.哈爾濱工業(yè)大學(xué) 2013
本文編號(hào):3474397
【文章來(lái)源】:上海交通大學(xué)上海市 211工程院校 985工程院校 教育部直屬院校
【文章頁(yè)數(shù)】:70 頁(yè)
【學(xué)位級(jí)別】:碩士
【部分圖文】:
推薦系統(tǒng)工作原理圖
上海交通大學(xué)工程碩士學(xué)位論文第二章8反饋數(shù)據(jù)。但是隱式反饋數(shù)據(jù)也存在缺陷,隱式反饋一般都是二元的,一個(gè)沒(méi)有交互的項(xiàng)目的語(yǔ)義不是很清晰,系統(tǒng)無(wú)法判斷是用戶(hù)討厭這個(gè)項(xiàng)目還是用戶(hù)沒(méi)有接觸過(guò)這個(gè)項(xiàng)目,2.2推薦系統(tǒng)算法的類(lèi)別推薦系統(tǒng)中算法經(jīng)過(guò)多年不斷的發(fā)展,逐漸形成了一個(gè)類(lèi)別劃分標(biāo)準(zhǔn)。目前,推薦算法被劃分成三個(gè)大類(lèi),具體的分類(lèi)情況如圖2-2所示。圖2-2推薦算法分類(lèi)Fig.2-2Classificationofrecommendedalgorithms2.2.1基于內(nèi)容的推薦算法算法的核心思想是假如用戶(hù)曾經(jīng)交互過(guò)某個(gè)項(xiàng)目,那么認(rèn)為用戶(hù)會(huì)對(duì)和這個(gè)項(xiàng)目?jī)?nèi)容上相似的項(xiàng)目感興趣,這是一種項(xiàng)目到項(xiàng)目關(guān)聯(lián)的方法,它關(guān)注的是項(xiàng)目本身的內(nèi)容屬性。首先從得到的反饋數(shù)據(jù)中獲取用戶(hù)交互過(guò)的項(xiàng)目,項(xiàng)目一般被表述為文本的形式,采用文本特征提取技術(shù)(如:TF-IDF[29])從項(xiàng)目的內(nèi)容文本中抽取關(guān)鍵特征作為用戶(hù)的偏好特征,然后提取候選項(xiàng)目的內(nèi)容特征,然后匹配偏好特征與內(nèi)容特征的相似度,最后將相似度值降序排列,將排在前N項(xiàng)候選項(xiàng)目推薦給用戶(hù)。其算法構(gòu)建的過(guò)程一般包括以下幾個(gè)步驟:1)獲取用戶(hù)偏好特征。系統(tǒng)會(huì)通過(guò)用戶(hù)的歷史交互過(guò)的項(xiàng)目,抽取項(xiàng)目的關(guān)鍵特征信息,然后按照一定的方式構(gòu)建用戶(hù)的偏好特征。2)獲取候選項(xiàng)目特征。當(dāng)有新的候選項(xiàng)目加入系統(tǒng)時(shí),系統(tǒng)會(huì)采用相關(guān)的
上海交通大學(xué)工程碩士學(xué)位論文第二章10圖2-3基于用戶(hù)的協(xié)同過(guò)濾的電影推薦Fig.2-3Movierecommendationbasedonusercollaborativefiltering2.基于項(xiàng)目的協(xié)同過(guò)濾算法的基本理論是不同的項(xiàng)目在評(píng)分上很接近時(shí),認(rèn)為這些項(xiàng)目具有相似性,目標(biāo)用戶(hù)會(huì)對(duì)和歷史交互過(guò)的項(xiàng)目相似的項(xiàng)目感興趣。算法的目的是給用戶(hù)推薦和他偏好的項(xiàng)目相似的項(xiàng)目,它與基于內(nèi)容的推薦算法的最大區(qū)別在于計(jì)算項(xiàng)目之間的相似性時(shí)采用的信息不同,基于內(nèi)容的推薦采用的是項(xiàng)目本身的內(nèi)容描述信息和一些屬性信息,而基于項(xiàng)目的協(xié)同過(guò)濾采用的是用戶(hù)對(duì)項(xiàng)目的評(píng)分矩陣。圖2-4給出了基于項(xiàng)目的協(xié)同過(guò)濾實(shí)例說(shuō)明,從圖中可知,電影A和電影C同時(shí)被用戶(hù)甲和用戶(hù)乙偏愛(ài),電影B只有用戶(hù)乙感興趣,算法認(rèn)為電影A在一定程度上相似于電影C,于是當(dāng)電影A被用戶(hù)丙喜歡時(shí),則認(rèn)為電影C也會(huì)被用戶(hù)丙喜歡,所以將電影C推薦給用戶(hù)丙。圖2-4基于項(xiàng)目的協(xié)同過(guò)濾的電影推薦Fig.2-4MovierecommendationbasedonItemcollaborativefiltering
【參考文獻(xiàn)】:
期刊論文
[1]基于深度學(xué)習(xí)的推薦系統(tǒng)研究綜述[J]. 黃立威,江碧濤,呂守業(yè),劉艷博,李德毅. 計(jì)算機(jī)學(xué)報(bào). 2018(07)
[2]利用word2vec對(duì)中文詞進(jìn)行聚類(lèi)的研究[J]. 鄭文超,徐鵬. 軟件. 2013(12)
[3]個(gè)性化推薦系統(tǒng)綜述[J]. 王國(guó)霞,劉賀平. 計(jì)算機(jī)工程與應(yīng)用. 2012(07)
[4]個(gè)性化推薦系統(tǒng)的研究進(jìn)展[J]. 劉建國(guó),周濤,汪秉宏. 自然科學(xué)進(jìn)展. 2009(01)
碩士論文
[1]基于語(yǔ)義的個(gè)性化推薦模型研究[D]. 李祉瑩.北京郵電大學(xué) 2015
[2]面向分布式異構(gòu)數(shù)據(jù)源的個(gè)性化推薦系統(tǒng)的研究與實(shí)現(xiàn)[D]. 吳天龍.哈爾濱工業(yè)大學(xué) 2013
本文編號(hào):3474397
本文鏈接:http://sikaile.net/kejilunwen/ruanjiangongchenglunwen/3474397.html
最近更新
教材專(zhuān)著