移動(dòng)互聯(lián)網(wǎng)智能手機(jī)時(shí)代,給人們的生活帶來了極大便捷,網(wǎng)絡(luò)用戶對(duì)互聯(lián)網(wǎng)服務(wù)也提出了更高的要求。分析并預(yù)測(cè)用戶的App點(diǎn)擊使用行為,不僅有助于提升網(wǎng)絡(luò)服務(wù)質(zhì)量,也有助于幫助用戶快速啟動(dòng)所需要的App,節(jié)約時(shí)間成本。本文從運(yùn)營(yíng)商DP[流量數(shù)據(jù)入手,探討移動(dòng)用戶行為的研究分析方法。本文的主要工作如下:（1）本文以運(yùn)營(yíng)商DPI流量為基礎(chǔ),構(gòu)建了研究用戶行為的網(wǎng)絡(luò)指紋數(shù)據(jù)。并從網(wǎng)絡(luò)指紋數(shù)據(jù)中構(gòu)建用戶-App-類別異構(gòu)信息網(wǎng)絡(luò),提出了用于學(xué)習(xí)異構(gòu)網(wǎng)絡(luò)節(jié)點(diǎn)和元路徑關(guān)系向量的HINE算法。HINE算法包含隨機(jī)游走和神經(jīng)網(wǎng)路學(xué)習(xí)部分,提出的三個(gè)隨機(jī)游走策略能有效表示用戶和App之間的行為偏好特性和不同子網(wǎng)絡(luò)間的拓展關(guān)系。通過對(duì)App向量可視化分析以及在公開數(shù)據(jù)集上的實(shí)驗(yàn),驗(yàn)證了HINE算法能有效學(xué)習(xí)網(wǎng)絡(luò)節(jié)點(diǎn)的特征向量表示。（2）在網(wǎng)絡(luò)表示學(xué)習(xí)的基礎(chǔ)上,本文設(shè)計(jì)了移動(dòng)用戶的App點(diǎn)擊行為預(yù)測(cè)模型,分別是多層感知機(jī)MLP和LSTM+Attention注意力機(jī)制的模型。MLP直接使用網(wǎng)絡(luò)表示學(xué)習(xí)得到的用戶和App向量表示,進(jìn)行多層特征組合學(xué)習(xí)去預(yù)測(cè)用戶此時(shí)使用此App的概率。LSTM+Attention模型針對(duì)... 

【文章來源】：北京郵電大學(xué)北京市 211工程院校 教育部直屬院校

【文章頁(yè)數(shù)】：66 頁(yè)

【學(xué)位級(jí)別】：碩士

【部分圖文】：

神經(jīng)網(wǎng)絡(luò)語(yǔ)言模型NNLM[4]

Ｍｉｋｏｌｏｖ提出的Ｗｏｒｄ２ｖｅｃ是近年來最受關(guān)注的神經(jīng)網(wǎng)絡(luò)語(yǔ)言模型，??Ｗｏｒｄ２ｖｅＣ去掉了前饋神經(jīng)語(yǔ)言網(wǎng)絡(luò)中的隱藏層，大大提高了訓(xùn)練詞向量的速度。??如圖２－２所示，Ｗｏｒｄ２ｖｅｃ包含兩種不同的模型，一個(gè)是ＣＢＯＷ模型（Ｃｏｎｔｉｎｕｏｕｓ??Ｂａｇ?ｏｆ?Ｗｏｒｄｓ），另一個(gè)是Ｓｋｉｐ－ｇｒａｍ模型。ＣＢＯＷ模型利用窗口中間詞的上下??文詞來預(yù)測(cè)中間詞的概率，Ｓｋｉｐ－ｇｒａｍ則是利用窗口中間詞來預(yù)測(cè)其上下文的詞。??由反向傳播算法可知梯度更新時(shí)Ｓｋｉｐ－ｇｒａｍ是上下文的目標(biāo)詞均通過反向傳播來??優(yōu)化中間詞，中間詞的詞向量多次更新學(xué)習(xí)，ＣＢＯＷ則是中間詞通過反向傳播??來平均地將梯度更新傳給窗口上下文中的每個(gè)詞，因此Ｓｋｉｐ－ｇｒａｍ要比ＣＢＯＷ??更耗時(shí)，但其效果要比ＣＢＯＷ模型好。??輸入層?投影層?輸出層?輸入層?投影層?輸出層??ｗ（ｔ－２）窗＾?ｗ（ｔ－２）??＼?／????????１?．?，????＼?／?ＢＢ??Ｗ（ｔ－ｌ）?＼?＼?求和?ａ?ｗ（ｔ－ｌ）???????１??麵?＼＼＼?顏?潑?｜＿??Ｊ??＞?ｗ（ｔ）?ｗ（ｔ）?－??

??階特征和低階特征的提取，模型結(jié)構(gòu)如圖２－５。??＋加法?一＾權(quán)值為１?「—?ｙ?輸出ｇ??ｘ?內(nèi)積?—普通鏈接????ｔ?Ｓｉｇｍｏｉｄ??＾Ｅｍｂｅｄｄｉｎｇ＾?／／??—ｉ－１??巧解層－－二會(huì)＇?入隱藏層；??ｒ???Ｆｉｅｌｄ?ｉ?Ｆｉｅｌｄ?ｊ?…?Ｆｉｅｌｄ?ｍ??圖２－５?ＤｅｅｐＦＭ模型結(jié)構(gòu)［４４］??圖２－５中紅色箭頭神經(jīng)元權(quán)重恒為１，訓(xùn)練過程中參數(shù)不更新，即直接將神??經(jīng)元的值復(fù)制到最后一層，然后與最后一層的神經(jīng)元一起運(yùn)算。與Ｗｉｄｅ＆Ｄｅｅｐ??模型不同，ＤｅｅｐＦＭ共享相同的特征輸入Ｅｍｂｅｄｄｉｎｇ向量。在Ｗｉｄｅ＆Ｄｅｅｐ模型??中，寬度、深度模型輸入向量卻并不相同，寬度模型部分包含了大量的二階交叉??特征，使得模型輸入的特征向量長(zhǎng)度快速增加，模型的復(fù)雜性大大增加。??ＤｅｅｐＦＭ包含兩部分一Ｄｅｅｐ神經(jīng)網(wǎng)絡(luò)部分和ＦＭ因子分解機(jī)部分。這兩部??分共享同樣的輸入。對(duì)于特征ｉ，１＾表示一階特征的重要性，隱變量Ｒ則是表示特??征ｉ與其它特征之間的關(guān)系。在ＦＭ部分Ｒ表示二階特征，同時(shí)在Ｄｅｅｐ部分用于??提取高階特征。所有的參數(shù)共同參與訓(xùn)練。ＤｅｅｐＦＭ模型的預(yù)測(cè)概率為夕二??ｓｉ沒ｍｏｉｄ（；ｙ＞Ｍ＋ｙｆｌＡＷ）其中夕ｅ?（０

【參考文獻(xiàn)】：
期刊論文
[1]基于網(wǎng)絡(luò)表示學(xué)習(xí)的個(gè)性化商品推薦[J]. 李宇琦,陳維政,閆宏飛,李曉明.  計(jì)算機(jī)學(xué)報(bào). 2019(08)
[2]大規(guī)模復(fù)雜信息網(wǎng)絡(luò)表示學(xué)習(xí):概念、方法與挑戰(zhàn)[J]. 齊金山,梁循,李志宇,陳燕方,許媛.  計(jì)算機(jī)學(xué)報(bào). 2018(10)
[3]網(wǎng)絡(luò)表示學(xué)習(xí)綜述[J]. 涂存超,楊成,劉知遠(yuǎn),孫茂松.  中國(guó)科學(xué):信息科學(xué). 2017(08)
[4]基于網(wǎng)絡(luò)表示學(xué)習(xí)與隨機(jī)游走的鏈路預(yù)測(cè)算法[J]. 劉思,劉海,陳啟買,賀超波.  計(jì)算機(jī)應(yīng)用. 2017(08)
[5]網(wǎng)絡(luò)表示學(xué)習(xí)[J]. 陳維政,張巖,李曉明.  大數(shù)據(jù). 2015(03)

碩士論文
[1]面向社會(huì)網(wǎng)絡(luò)的表示學(xué)習(xí)方法與推薦技術(shù)研究[D]. 杜東舫.中國(guó)科學(xué)技術(shù)大學(xué) 2018
[2]基于DPI流量的大規(guī)模網(wǎng)絡(luò)指紋系統(tǒng)的設(shè)計(jì)與應(yīng)用[D]. 譚堯文.北京郵電大學(xué) 2018
[3]采用Node2Vec模型對(duì)網(wǎng)絡(luò)特征表示方法研究[D]. 姚銳.南京大學(xué) 2018
[4]基于序列模式挖掘的移動(dòng)應(yīng)用使用預(yù)測(cè)研究[D]. 楊宇佳.浙江大學(xué) 2016



本文編號(hào)：3101206