基于Self-Attention機(jī)制的音樂推薦算法研究
發(fā)布時(shí)間:2021-06-24 22:53
伴隨著信息技術(shù)的快速發(fā)展,音樂作品也走上了信息化的道路,如今,越來越多的人選擇在互聯(lián)網(wǎng)上收聽自己喜歡的音樂,同時(shí)互聯(lián)網(wǎng)也是海量音樂作品的載體,而面對(duì)音樂種類和數(shù)目如此巨大的互聯(lián)網(wǎng),如何快速找到人們喜歡的音樂就顯的尤為重要。音樂推薦系統(tǒng)可以很好的解決這個(gè)問題,實(shí)現(xiàn)由人找音樂到音樂找人的轉(zhuǎn)變,提高音樂的傳播效率,同時(shí)提高用戶的收聽體驗(yàn)。本文正是在這種技術(shù)背景和需求的推動(dòng)下,對(duì)音樂推薦算法做了深入的研究。由于在不同的場(chǎng)景下用戶的會(huì)話行為具有極強(qiáng)的關(guān)聯(lián)性,因此本文提出了基于會(huì)話記錄的的音樂推薦算法,利用self-attention機(jī)制提取會(huì)話記錄特征。使用音樂推薦領(lǐng)域常用的Last.fm數(shù)據(jù)集對(duì)本文提出的音樂推薦模型進(jìn)行性能評(píng)估。實(shí)驗(yàn)的主要設(shè)計(jì)為模型超參數(shù)的設(shè)定、時(shí)間因素及長(zhǎng)期偏好對(duì)推薦效果的影響、與傳統(tǒng)算法的對(duì)比分析等,實(shí)驗(yàn)結(jié)果顯示本文提出的算法在音樂推薦方面具有良好的性能。論文基于用戶對(duì)音樂喜愛的時(shí)段性以及易受時(shí)間因素影響的特性,提出了基于會(huì)話及引入了時(shí)間因素和長(zhǎng)期偏好的self-attention機(jī)制的音樂推薦算法,以有效對(duì)音樂及用戶偏好進(jìn)行建模,加強(qiáng)模型對(duì)音樂收聽記錄的短期特征抽取能力...
【文章來源】:華中師范大學(xué)湖北省 211工程院校 教育部直屬院校
【文章頁數(shù)】:66 頁
【學(xué)位級(jí)別】:碩士
【部分圖文】:
圖2.5人類的視覺注意力??如圖2.5所示,展示了人類在視覺方面的一種注意力機(jī)制,當(dāng)人們的任務(wù)是要??分辨圖中的小孩是誰時(shí),便會(huì)主動(dòng)把注意力集中在小孩的臉部特征
常大,此為梯度爆炸。??梯度爆炸很好解決,只需要在計(jì)算導(dǎo)數(shù)的過程中進(jìn)行梯度裁剪(Gradient??Clipping)?[4\限制梯度的大小即可。然而梯度消失卻無法使用梯度放大來解決,因??為當(dāng)模型訓(xùn)練到最優(yōu)解時(shí),梯度也會(huì)消失,因此解決梯度消失的問題就比較困難。???、-?§?,0????J?)cr??|?i?? ̄?20*—??心?v.?1?:???4?^?ft?1?:?'?*,?'?(???iter.?(Ic4)?iler.?(Ie4)??圖3.2網(wǎng)絡(luò)退化??此外,當(dāng)使用神經(jīng)網(wǎng)絡(luò)解決同一個(gè)問題的時(shí)候,隨著網(wǎng)絡(luò)的加深,模型的最終??效果會(huì)出現(xiàn)先增大后減小的趨勢(shì)。如圖3.2所示,即便在同樣輪數(shù)的訓(xùn)練中,無論??是訓(xùn)練誤差還是測(cè)試誤差,56層的深層網(wǎng)絡(luò)都要比20層的淺層網(wǎng)絡(luò)擁有更大的誤??差,此現(xiàn)象即為網(wǎng)絡(luò)退化。這是一個(gè)非常奇怪的現(xiàn)象,因?yàn)槿绻埃玻皩蛹航?jīng)是模型??22??
頌士學(xué)位論文??MASTER'S?THESIS??25??—■?I?I?—?I??I?I??I?I??i議園?_?_??10?^?_+??P2?■精確率??■?III??u?u?y?ju??48?96?192?384??隱層維度??圖4.1不同隱層維度下的指標(biāo)值變化狀態(tài)??由上圖可知隱層維度對(duì)于算法效果的影響,當(dāng)隱層維度較小時(shí),模型無法承載??或者挖掘到足夠多的音樂信息和用戶偏好信息,無法準(zhǔn)確預(yù)測(cè)用戶下一首收聽的音??樂,當(dāng)隱層維度增大到384時(shí),模型總體效果開始下降,說明過多的隱層節(jié)點(diǎn)導(dǎo)致??了用戶音樂偏好特征變得稀疏,并且其中摻雜了噪聲信息,從而對(duì)最終結(jié)果造成負(fù)??面影響。因此,隱層維度的最優(yōu)值為192,在后續(xù)對(duì)其他超參數(shù)進(jìn)行調(diào)優(yōu)時(shí),將隱??層維度固定為192。??(2)不同學(xué)習(xí)率對(duì)比實(shí)驗(yàn)分析??本實(shí)驗(yàn)的目的是為了探索不同學(xué)習(xí)率對(duì)模型的影響,學(xué)習(xí)率決定模型每次訓(xùn)練??的學(xué)習(xí)幅度,一個(gè)好的學(xué)習(xí)率可以使得模型快速穩(wěn)定的收斂到最優(yōu)解,而一個(gè)壞的??學(xué)習(xí)率,可能需要很長(zhǎng)時(shí)間才能收斂到最優(yōu)解,甚至造成模型無法收斂。學(xué)習(xí)率過??大會(huì)造成模型在最低點(diǎn)震蕩,無法到達(dá)全局最優(yōu),過小又會(huì)造成導(dǎo)致收斂太慢或者??陷入局部最優(yōu)。在尋找最優(yōu)學(xué)習(xí)率時(shí),將學(xué)習(xí)率分別設(shè)置為0.1、0.01、0.001、0.0001??進(jìn)行實(shí)驗(yàn),以十的倍數(shù)進(jìn)行放縮,可以更快找到最優(yōu)學(xué)習(xí)率,這也是學(xué)習(xí)率調(diào)優(yōu)的??常用做法,實(shí)驗(yàn)結(jié)果如圖4.2所示。??38??
【參考文獻(xiàn)】:
期刊論文
[1]混合貝葉斯個(gè)性化排序與內(nèi)容的推薦算法研究[J]. 文曉棠,吳少?gòu)?qiáng). 現(xiàn)代計(jì)算機(jī). 2019(30)
[2]會(huì)話推薦系統(tǒng)[J]. 趙海燕,趙佳斌,陳慶奎,曹健. 小型微型計(jì)算機(jī)系統(tǒng). 2019(09)
[3]信息過載時(shí)代的信息焦慮與新媒介素養(yǎng)[J]. 胡毓靖. 新聞傳播. 2019(15)
[4]基于會(huì)話記錄的Word2Vec音樂推薦算法研究[J]. 周航帆,周蓮英. 通信技術(shù). 2019(04)
[5]深度學(xué)習(xí)優(yōu)化算法研究[J]. 仝衛(wèi)國(guó),李敏霞,張一可. 計(jì)算機(jī)科學(xué). 2018(S2)
[6]MN-HDRM:長(zhǎng)短興趣多神經(jīng)網(wǎng)絡(luò)混合動(dòng)態(tài)推薦模型[J]. 馮永,張備,強(qiáng)保華,張逸揚(yáng),尚家興. 計(jì)算機(jī)學(xué)報(bào). 2019(01)
[7]結(jié)合改進(jìn)的CHI統(tǒng)計(jì)方法的TF-IDF算法優(yōu)化[J]. 馬瑩,趙輝,李萬龍,龐海龍,崔巖. 計(jì)算機(jī)應(yīng)用研究. 2019(09)
[8]基于注意力機(jī)制的音樂深度推薦算法[J]. 張全貴,張新新,李志強(qiáng). 計(jì)算機(jī)應(yīng)用研究. 2019(08)
[9]基于深度卷積神經(jīng)網(wǎng)絡(luò)的遙感圖像超分辨率重建[J]. 王愛麗,張小妹,韓闖,劉源. 黑龍江大學(xué)自然科學(xué)學(xué)報(bào). 2018(01)
[10]深層網(wǎng)絡(luò)中的梯度消失現(xiàn)象[J]. 周祥全,張津. 科技展望. 2017(27)
博士論文
[1]基于協(xié)同過濾的推薦算法研究[D]. 劉青文.中國(guó)科學(xué)技術(shù)大學(xué) 2013
碩士論文
[1]基于CNN自動(dòng)標(biāo)注用戶偏好的音樂推薦算法[D]. 葉展鵬.華南理工大學(xué) 2018
本文編號(hào):3247972
【文章來源】:華中師范大學(xué)湖北省 211工程院校 教育部直屬院校
【文章頁數(shù)】:66 頁
【學(xué)位級(jí)別】:碩士
【部分圖文】:
圖2.5人類的視覺注意力??如圖2.5所示,展示了人類在視覺方面的一種注意力機(jī)制,當(dāng)人們的任務(wù)是要??分辨圖中的小孩是誰時(shí),便會(huì)主動(dòng)把注意力集中在小孩的臉部特征
常大,此為梯度爆炸。??梯度爆炸很好解決,只需要在計(jì)算導(dǎo)數(shù)的過程中進(jìn)行梯度裁剪(Gradient??Clipping)?[4\限制梯度的大小即可。然而梯度消失卻無法使用梯度放大來解決,因??為當(dāng)模型訓(xùn)練到最優(yōu)解時(shí),梯度也會(huì)消失,因此解決梯度消失的問題就比較困難。???、-?§?,0????J?)cr??|?i?? ̄?20*—??心?v.?1?:???4?^?ft?1?:?'?*,?'?(???iter.?(Ic4)?iler.?(Ie4)??圖3.2網(wǎng)絡(luò)退化??此外,當(dāng)使用神經(jīng)網(wǎng)絡(luò)解決同一個(gè)問題的時(shí)候,隨著網(wǎng)絡(luò)的加深,模型的最終??效果會(huì)出現(xiàn)先增大后減小的趨勢(shì)。如圖3.2所示,即便在同樣輪數(shù)的訓(xùn)練中,無論??是訓(xùn)練誤差還是測(cè)試誤差,56層的深層網(wǎng)絡(luò)都要比20層的淺層網(wǎng)絡(luò)擁有更大的誤??差,此現(xiàn)象即為網(wǎng)絡(luò)退化。這是一個(gè)非常奇怪的現(xiàn)象,因?yàn)槿绻埃玻皩蛹航?jīng)是模型??22??
頌士學(xué)位論文??MASTER'S?THESIS??25??—■?I?I?—?I??I?I??I?I??i議園?_?_??10?^?_+??P2?■精確率??■?III??u?u?y?ju??48?96?192?384??隱層維度??圖4.1不同隱層維度下的指標(biāo)值變化狀態(tài)??由上圖可知隱層維度對(duì)于算法效果的影響,當(dāng)隱層維度較小時(shí),模型無法承載??或者挖掘到足夠多的音樂信息和用戶偏好信息,無法準(zhǔn)確預(yù)測(cè)用戶下一首收聽的音??樂,當(dāng)隱層維度增大到384時(shí),模型總體效果開始下降,說明過多的隱層節(jié)點(diǎn)導(dǎo)致??了用戶音樂偏好特征變得稀疏,并且其中摻雜了噪聲信息,從而對(duì)最終結(jié)果造成負(fù)??面影響。因此,隱層維度的最優(yōu)值為192,在后續(xù)對(duì)其他超參數(shù)進(jìn)行調(diào)優(yōu)時(shí),將隱??層維度固定為192。??(2)不同學(xué)習(xí)率對(duì)比實(shí)驗(yàn)分析??本實(shí)驗(yàn)的目的是為了探索不同學(xué)習(xí)率對(duì)模型的影響,學(xué)習(xí)率決定模型每次訓(xùn)練??的學(xué)習(xí)幅度,一個(gè)好的學(xué)習(xí)率可以使得模型快速穩(wěn)定的收斂到最優(yōu)解,而一個(gè)壞的??學(xué)習(xí)率,可能需要很長(zhǎng)時(shí)間才能收斂到最優(yōu)解,甚至造成模型無法收斂。學(xué)習(xí)率過??大會(huì)造成模型在最低點(diǎn)震蕩,無法到達(dá)全局最優(yōu),過小又會(huì)造成導(dǎo)致收斂太慢或者??陷入局部最優(yōu)。在尋找最優(yōu)學(xué)習(xí)率時(shí),將學(xué)習(xí)率分別設(shè)置為0.1、0.01、0.001、0.0001??進(jìn)行實(shí)驗(yàn),以十的倍數(shù)進(jìn)行放縮,可以更快找到最優(yōu)學(xué)習(xí)率,這也是學(xué)習(xí)率調(diào)優(yōu)的??常用做法,實(shí)驗(yàn)結(jié)果如圖4.2所示。??38??
【參考文獻(xiàn)】:
期刊論文
[1]混合貝葉斯個(gè)性化排序與內(nèi)容的推薦算法研究[J]. 文曉棠,吳少?gòu)?qiáng). 現(xiàn)代計(jì)算機(jī). 2019(30)
[2]會(huì)話推薦系統(tǒng)[J]. 趙海燕,趙佳斌,陳慶奎,曹健. 小型微型計(jì)算機(jī)系統(tǒng). 2019(09)
[3]信息過載時(shí)代的信息焦慮與新媒介素養(yǎng)[J]. 胡毓靖. 新聞傳播. 2019(15)
[4]基于會(huì)話記錄的Word2Vec音樂推薦算法研究[J]. 周航帆,周蓮英. 通信技術(shù). 2019(04)
[5]深度學(xué)習(xí)優(yōu)化算法研究[J]. 仝衛(wèi)國(guó),李敏霞,張一可. 計(jì)算機(jī)科學(xué). 2018(S2)
[6]MN-HDRM:長(zhǎng)短興趣多神經(jīng)網(wǎng)絡(luò)混合動(dòng)態(tài)推薦模型[J]. 馮永,張備,強(qiáng)保華,張逸揚(yáng),尚家興. 計(jì)算機(jī)學(xué)報(bào). 2019(01)
[7]結(jié)合改進(jìn)的CHI統(tǒng)計(jì)方法的TF-IDF算法優(yōu)化[J]. 馬瑩,趙輝,李萬龍,龐海龍,崔巖. 計(jì)算機(jī)應(yīng)用研究. 2019(09)
[8]基于注意力機(jī)制的音樂深度推薦算法[J]. 張全貴,張新新,李志強(qiáng). 計(jì)算機(jī)應(yīng)用研究. 2019(08)
[9]基于深度卷積神經(jīng)網(wǎng)絡(luò)的遙感圖像超分辨率重建[J]. 王愛麗,張小妹,韓闖,劉源. 黑龍江大學(xué)自然科學(xué)學(xué)報(bào). 2018(01)
[10]深層網(wǎng)絡(luò)中的梯度消失現(xiàn)象[J]. 周祥全,張津. 科技展望. 2017(27)
博士論文
[1]基于協(xié)同過濾的推薦算法研究[D]. 劉青文.中國(guó)科學(xué)技術(shù)大學(xué) 2013
碩士論文
[1]基于CNN自動(dòng)標(biāo)注用戶偏好的音樂推薦算法[D]. 葉展鵬.華南理工大學(xué) 2018
本文編號(hào):3247972
本文鏈接:http://sikaile.net/wenyilunwen/yinlelunwen/3247972.html
最近更新
教材專著