面向用戶生成序列的深度學(xué)習(xí)技術(shù)研究
發(fā)布時間:2021-01-03 04:48
長久以來,用戶生成序列建模一直是推薦系統(tǒng)中研究的熱點(diǎn)。傳統(tǒng)方法從浩瀚數(shù)據(jù)中根據(jù)用戶序列快速篩選出符合用戶興趣的信息,需要花費(fèi)大量的人力和物力。得益于海量數(shù)據(jù)和強(qiáng)有力的算力提升,近年來基于深度學(xué)習(xí)技術(shù)的模型在序列建模任務(wù)獲得巨大的成功。然而,當(dāng)前對用戶生成序列建模的研究仍存在諸多缺陷。對于用戶同構(gòu)序列數(shù)據(jù)1)未充分將用戶體溫序列與電子健康病歷中多類型特征融合建模;2)忽略對用戶簽到行為中簽到時間的預(yù)測建模。對于用戶異構(gòu)序列數(shù)據(jù)3)未考慮融合序列推薦任務(wù)中序列切分和推薦兩階段的工作流。本文分別就用戶同質(zhì)和異質(zhì)序列數(shù)據(jù)中蘊(yùn)含的具體任務(wù)進(jìn)行深入研究,設(shè)計數(shù)據(jù)驅(qū)動的用戶個性化序列建?蚣,較好的緩解了上述問題。本文的主要工作和貢獻(xiàn)概述如下:首先,本文從診斷兒童社區(qū)獲得性肺炎致病微生物的問題入手,提出一種針對患者的注意力機(jī)制循環(huán)神經(jīng)網(wǎng)絡(luò)模型PA-RNN,結(jié)合患者在電子健康記錄中的生物醫(yī)學(xué)數(shù)據(jù),包括血常規(guī)和尿常規(guī)等特征,同時對隨時間變化的體溫序列進(jìn)行聯(lián)合建模預(yù)測。本文在真實(shí)的數(shù)據(jù)集中進(jìn)行全面的實(shí)驗(yàn),展示將電子健康記錄中的多種特征融合對于研究問題的好處,F(xiàn)有的大多基于位置的服務(wù)研究專注于提升預(yù)測簽到地...
【文章來源】:華東師范大學(xué)上海市 211工程院校 985工程院校 教育部直屬院校
【文章頁數(shù)】:100 頁
【學(xué)位級別】:碩士
【文章目錄】:
摘要
ABSTRACT
第一章 緒論
1.1 研究背景及意義
1.2 國內(nèi)外研究現(xiàn)狀
1.2.1 序列建模方法的研究現(xiàn)狀
1.2.2 下一地點(diǎn)與時間建模任務(wù)研究現(xiàn)狀
1.3 本文工作和主要貢獻(xiàn)
1.4 本文的組織結(jié)構(gòu)
第二章 基礎(chǔ)知識和相關(guān)技術(shù)
2.1 神經(jīng)網(wǎng)絡(luò)基礎(chǔ)知識
2.1.1 全連接神經(jīng)網(wǎng)絡(luò)
2.1.2 激活函數(shù)
2.1.3 損失函數(shù)
2.1.4 優(yōu)化方法
2.2 循環(huán)神經(jīng)網(wǎng)絡(luò)
2.2.1 循環(huán)神經(jīng)網(wǎng)絡(luò)
2.2.2 長短期記憶網(wǎng)絡(luò)
2.2.3 門控循環(huán)單元
2.2.4 注意力機(jī)制
2.3 圖卷積神經(jīng)網(wǎng)絡(luò)
2.4 時間點(diǎn)過程
2.5 本章小結(jié)
第三章 基于深度特征學(xué)習(xí)的兒童CAP致病因診斷
3.1 研究動機(jī)
3.2 兒童CAP致病因診斷任務(wù)定義
3.3 患者特征選擇
3.4 個性化注意力循環(huán)神經(jīng)網(wǎng)絡(luò)模型:PA-RNN
3.5 實(shí)驗(yàn)與結(jié)果分析
3.5.1 實(shí)驗(yàn)設(shè)置
3.5.2 模型比較與分析
3.5.3 超參研究
3.6 本章小結(jié)
第四章 基于深度多任務(wù)學(xué)習(xí)的簽到地點(diǎn)和時間預(yù)測
4.1 研究動機(jī)
4.2 下一簽到地點(diǎn)與時間預(yù)測任務(wù)定義
4.3 注意力循環(huán)神經(jīng)點(diǎn)過程-圖注意力模型:ARNPP-GAT
4.3.1 用戶動態(tài)興趣建模
4.3.2 用戶社交關(guān)系建模
4.3.3 用戶多任務(wù)學(xué)習(xí)預(yù)測模塊
4.3.4 用戶多任務(wù)學(xué)習(xí)目標(biāo)
4.4 實(shí)驗(yàn)與結(jié)果分析
4.4.1 實(shí)驗(yàn)設(shè)置
4.4.2 ARNPP-GAT模型對比
4.4.3 模型分析
4.5 本章小結(jié)
第五章 基于深度強(qiáng)化學(xué)習(xí)的序列切分和推薦算法
5.1 研究動機(jī)
5.2 序列切分與推薦任務(wù)定義
5.3 基于會話的推薦模型
5.3.1 推薦模型: GRU4Rec
5.3.2 推薦模型: HRNN
5.3.3 推薦模型: NARM
5.4 深度強(qiáng)化學(xué)習(xí)序列切分和推薦框架:RL4SRec
5.4.1 策略網(wǎng)略
5.4.2 訓(xùn)練過程和復(fù)雜度分析
5.5 實(shí)驗(yàn)與結(jié)果分析
5.5.1 實(shí)驗(yàn)設(shè)置
5.5.2 基準(zhǔn)模型對序列切分策略的研究
5.5.3 RL4SRec算法對比
5.5.4 RL4SRec算法分析
5.6 本章小結(jié)
第六章 總結(jié)與展望
6.1 總結(jié)
6.2 展望
參考文獻(xiàn)
致謝
攻讀碩士學(xué)位期間發(fā)表論文、參與科研和獲得榮譽(yù)情況
本文編號:2954346
【文章來源】:華東師范大學(xué)上海市 211工程院校 985工程院校 教育部直屬院校
【文章頁數(shù)】:100 頁
【學(xué)位級別】:碩士
【文章目錄】:
摘要
ABSTRACT
第一章 緒論
1.1 研究背景及意義
1.2 國內(nèi)外研究現(xiàn)狀
1.2.1 序列建模方法的研究現(xiàn)狀
1.2.2 下一地點(diǎn)與時間建模任務(wù)研究現(xiàn)狀
1.3 本文工作和主要貢獻(xiàn)
1.4 本文的組織結(jié)構(gòu)
第二章 基礎(chǔ)知識和相關(guān)技術(shù)
2.1 神經(jīng)網(wǎng)絡(luò)基礎(chǔ)知識
2.1.1 全連接神經(jīng)網(wǎng)絡(luò)
2.1.2 激活函數(shù)
2.1.3 損失函數(shù)
2.1.4 優(yōu)化方法
2.2 循環(huán)神經(jīng)網(wǎng)絡(luò)
2.2.1 循環(huán)神經(jīng)網(wǎng)絡(luò)
2.2.2 長短期記憶網(wǎng)絡(luò)
2.2.3 門控循環(huán)單元
2.2.4 注意力機(jī)制
2.3 圖卷積神經(jīng)網(wǎng)絡(luò)
2.4 時間點(diǎn)過程
2.5 本章小結(jié)
第三章 基于深度特征學(xué)習(xí)的兒童CAP致病因診斷
3.1 研究動機(jī)
3.2 兒童CAP致病因診斷任務(wù)定義
3.3 患者特征選擇
3.4 個性化注意力循環(huán)神經(jīng)網(wǎng)絡(luò)模型:PA-RNN
3.5 實(shí)驗(yàn)與結(jié)果分析
3.5.1 實(shí)驗(yàn)設(shè)置
3.5.2 模型比較與分析
3.5.3 超參研究
3.6 本章小結(jié)
第四章 基于深度多任務(wù)學(xué)習(xí)的簽到地點(diǎn)和時間預(yù)測
4.1 研究動機(jī)
4.2 下一簽到地點(diǎn)與時間預(yù)測任務(wù)定義
4.3 注意力循環(huán)神經(jīng)點(diǎn)過程-圖注意力模型:ARNPP-GAT
4.3.1 用戶動態(tài)興趣建模
4.3.2 用戶社交關(guān)系建模
4.3.3 用戶多任務(wù)學(xué)習(xí)預(yù)測模塊
4.3.4 用戶多任務(wù)學(xué)習(xí)目標(biāo)
4.4 實(shí)驗(yàn)與結(jié)果分析
4.4.1 實(shí)驗(yàn)設(shè)置
4.4.2 ARNPP-GAT模型對比
4.4.3 模型分析
4.5 本章小結(jié)
第五章 基于深度強(qiáng)化學(xué)習(xí)的序列切分和推薦算法
5.1 研究動機(jī)
5.2 序列切分與推薦任務(wù)定義
5.3 基于會話的推薦模型
5.3.1 推薦模型: GRU4Rec
5.3.2 推薦模型: HRNN
5.3.3 推薦模型: NARM
5.4 深度強(qiáng)化學(xué)習(xí)序列切分和推薦框架:RL4SRec
5.4.1 策略網(wǎng)略
5.4.2 訓(xùn)練過程和復(fù)雜度分析
5.5 實(shí)驗(yàn)與結(jié)果分析
5.5.1 實(shí)驗(yàn)設(shè)置
5.5.2 基準(zhǔn)模型對序列切分策略的研究
5.5.3 RL4SRec算法對比
5.5.4 RL4SRec算法分析
5.6 本章小結(jié)
第六章 總結(jié)與展望
6.1 總結(jié)
6.2 展望
參考文獻(xiàn)
致謝
攻讀碩士學(xué)位期間發(fā)表論文、參與科研和獲得榮譽(yù)情況
本文編號:2954346
本文鏈接:http://sikaile.net/kejilunwen/shengwushengchang/2954346.html
最近更新
教材專著