協(xié)同過濾是推薦系統(tǒng)中使用最廣泛且最成功的技術(shù)。但是,現(xiàn)有的基于協(xié)同過濾的方法在對用戶項目非線性交互進行建模時仍然存在一定的局限性。而近年來,基于協(xié)同過濾的推薦系統(tǒng)引入了深度生成模型,例如變分自動編碼器和生成對抗性網(wǎng)絡(luò),從而在提高排序性能和模型魯棒性的同時,產(chǎn)生了具有高推薦性能的模型。但是,這些模型本質(zhì)上是確定的,不能很好地評估推薦的不確定性。此外,這些方法通常缺乏顯式密度的特征,因此難以直接對用戶項目交互進行建模。本文通過建模和估計用戶項目交互的隱式反饋來解決上述問題。為了實現(xiàn)這一目標,本文通過隨機和攤銷推斷的能力擴展了變分自動編碼器,從而實現(xiàn)更好的變分近似和更好的推薦性能。具體來說,本文做出了以下貢獻。針對典型在線應用程序中的項目推薦服務,本文提出了協(xié)同自回歸流模型（CAF）,這是一種新穎的類似協(xié)同過濾的模型,利用貝葉斯推理和自回歸流進行項目推薦。CAF是一種非線性概率方法,可以在項目推薦中提供不確定性表示和潛在變量推斷的準確表示。與現(xiàn)有深度生成推薦模型中使用的先驗近似法相比,CAF在估計概率后驗方面更為有效,并且可以通過自回歸流改進和解釋潛在因子的表示學習。所提出的模型利用流來近似... 

【文章來源】：電子科技大學四川省 211工程院校 985工程院校 教育部直屬院校

【文章頁數(shù)】：96 頁

【學位級別】：碩士

【圖文】：

推薦系統(tǒng)算法框架圖

第二章相關(guān)研究技術(shù)及理論碼器來克服這一限制，該模型可以很好地泛化RNN網(wǎng)絡(luò)，使得RNN具有魯棒性�；诮训倪f歸網(wǎng)絡(luò)，Wang等人又提出了CRAE模型。該模型采用分層貝葉斯推斷理論，模型中的前饋神經(jīng)網(wǎng)絡(luò)用RNN替代，從而能夠有效的捕捉項目內(nèi)容信息中的順序特征。此外，CRAE模型使用了通配符進行去噪，并且還整合了beta合并技術(shù)，以防止模型過度擬合。而最近，wang等人[50]結(jié)合了強化學習和RNN，利用監(jiān)督學習進行藥物治療推薦。該框架可以從指示信號和評估信號中學習處方策略。實驗表明，該系統(tǒng)可以自動推斷并發(fā)現(xiàn)最佳治療方法。這是一個有價值的研究話題，并有益于社會的發(fā)展進步。2.4相關(guān)技術(shù)簡介2.4.1多層感知機多層感知機也叫人工神經(jīng)網(wǎng)絡(luò)，除了輸入層，輸出層，它的中間還可以有一個或者多個隱藏層，最簡單的MLP只含有一個隱藏層。MLP中的每一層都是由多個神經(jīng)元組成。在輸入域很密集的情況下，MLP能夠作為一個萬能逼近函數(shù)去擬合任意連續(xù)函數(shù)。因此，MLP被應用于很多研究領(lǐng)域，比如自然語言處理，計算機視覺等。圖2-2兩層MLP模型圖2-2為含有兩個隱藏層的MLP網(wǎng)絡(luò)，通常將第一層稱之為輸入層，最后一層稱之有輸出層，中間的層稱之為隱藏層。左邊的節(jié)點代表模型輸入數(shù)據(jù)，層與層之間的連線代表權(quán)重矩陣，最后一層為輸出層，y是各層加權(quán)求和的結(jié)果。從圖2-2中18

第三章基于協(xié)同自回歸流的項目推薦模型助信息就是與項目相關(guān)聯(lián)的信息。例如，相關(guān)研究中考慮POI的時空信息[80]，科學論文的詞頻信息[14]以及電影體裁和收視率[6]。圖3-1CAF項目推薦模型本章提出的CAF項目推薦模型受Chen等人的最新研究結(jié)果[21]啟發(fā)，還結(jié)合了用戶方面的信息，例如商品的訪問頻率或商品推薦的用戶評分（即評分矩陣的轉(zhuǎn)置），參見圖3-1。更進一步地，所提出的CAF模型構(gòu)造用于輔助信息的生成潛變量模型，并將潛變量ziu和zjv分別分配給每個用戶和項目。與每個用戶ui和每個項目vj相關(guān)的內(nèi)容信息是通過θ參數(shù)化的生成神經(jīng)網(wǎng)絡(luò)從其各自的潛在變量生成的：ui～pθ(ui|ziu),vj～pθ(vj|zjv),(3-1)其中分布中ui和vj是實值數(shù)據(jù)（例如，時空信息，評分，人口統(tǒng)計學或詞頻等）。這些數(shù)據(jù)是由生成網(wǎng)絡(luò)參數(shù)化的協(xié)同自回歸流的后驗分布生成。此外，CAF結(jié)合了與用戶和項目相關(guān)的協(xié)同信息uc和vc，這些信息均來自高斯分布：uc～N(0,I),vc～N(0,I)(3-2)以上協(xié)同信息表示與潛在變量表示結(jié)合起來代表用戶和項目表示：ui=zKu+uc,vj=zKv+vc.(3-3)以上的假設(shè)與以前基于VAE的推薦模型[6,14,15,21,81]相似。但是，這些工作在輔助信息的選擇上彼此不同。例如，Li等人[14]僅考慮用戶評分信息，而Lee等人提出的模型[6]包括與項目相關(guān)的輔助信息。最近提出的其他模型[15,21]則基于CVAE的主要體系結(jié)構(gòu)考慮了用戶端信息。根據(jù)圖3-1中的模型，CAF的聯(lián)合概率32


本文編號：3343738