隨著互聯(lián)網(wǎng)的高速發(fā)展,在線廣告系統(tǒng)在我們?nèi)粘Ｉ钪邪缪葜絹碓街匾慕巧?并且成為了廣告主進行品牌推廣和產(chǎn)品營銷最有效的方法,準確的預測點擊率是在線廣告系統(tǒng)最重要的一個環(huán)節(jié),因為提高廣告點擊率預估的準確率不僅有益于廣告商的品牌推廣,還可以提高用戶體驗。很多傳統(tǒng)點擊率預估方法如邏輯回歸已經(jīng)被應用在廣告點擊率預估系統(tǒng)上并取得了很好的效果,而且在工業(yè)界也已經(jīng)大規(guī)模部署。近年來深度學習技術在自然語言處理和計算機視覺任務上取得了不錯的成績,如文本蘊含、文本摘要和圖像生成等領域。隨之一些深度學習模型也被應用在個性化推薦系統(tǒng)和點擊率預估系統(tǒng)上,而且模型結構頗為相似,都是先對特征向量進行降維,然后再使用非線性操作提取特征組合,最后通過深度神經(jīng)網(wǎng)絡繼續(xù)尋找特征與點擊率之間的非線性關系。本文的主要研究內(nèi)容從以下三個方向進行:（1）基于傳統(tǒng)機器學習方法的多模型融合點擊率預估任務研究。本文首先在兩個大規(guī)模真實廣告點擊率數(shù)據(jù)集上進行特征工程工作,并使用GBDT算法提取高階特征組合,然后使用成熟的傳統(tǒng)機器學習模型如LR模型和FM模型進行單模型點擊率預測,并在單模型的基礎上進行模型融合,得到模型融合方法的點擊率預估... 

【文章來源】：哈爾濱工業(yè)大學黑龍江省 211工程院校 985工程院校

【文章頁數(shù)】：82 頁

【學位級別】：碩士

【部分圖文】：

點擊率預估問題定義

哈爾濱工業(yè)大學工程碩士學位論文（ ， ）區(qū)間壓縮到（0,1）區(qū)間，從而把回歸問題線性回歸公式如公式（1-6）所示，邏輯函數(shù) sigmoid 如公式（如圖 1-2 所示，邏輯回歸公式如（1-8）所示。

哈爾濱工業(yè)大學工程碩士學位論文益等指標配合剪枝可以很好的處理一些分類問題，而梯度提升決策樹中的決策樹不是分類決策樹而是回歸型決策樹，回歸型決策樹的總體流程與分類樹類似，但在每一個節(jié)點不是預測類別，而是都會得到?jīng)Q策樹的一個當前預測值，以身高為例，該預測值就等于屬于這個節(jié)點的所有觀察對象身高的平均值，衡量結果的好壞也從最大熵的分類標準轉換為最小化均方差等偏向回歸準確度的衡量指標。我們還需要控制樹的規(guī)模，即棵樹和深度，從而提高模型的泛化能力，以免產(chǎn)生過擬合，本文也詳細調(diào)整了樹的棵樹與深度、以及一些權重更新的速率與算法。


本文編號：3542314