數(shù)據(jù)分類作為數(shù)據(jù)挖掘中一個重要的分支,如今已經(jīng)成為大數(shù)據(jù)時代的研究熱點。邏輯回歸是一種重要的機器學習分類算法,憑借其模型簡單、訓練高效、對線性數(shù)據(jù)擬合程度高等優(yōu)點,在互聯(lián)網(wǎng)、醫(yī)療、金融等領(lǐng)域有著廣泛的應(yīng)用。求解邏輯回歸算法中的損失函數(shù)通常使用梯度下降這種迭代算法。在不同的梯度下降法中,小批量梯度下降法因其出色的性能被更加廣泛地應(yīng)用。傳統(tǒng)的小批量梯度下降法中采用固態(tài)學習率,其缺點是在算法訓練過程中,始終不變的學習率可能會導致算法的損失函數(shù)無法收斂到最優(yōu)值,使得算法的訓練效率和分類精度都會受到影響,在如今樣本數(shù)據(jù)規(guī)模越來越大的情況下,無法滿足需求,因此本文一個研究方向是對算法進行改進。另一方面規(guī)模越大的數(shù)據(jù)集對邏輯回歸算法的訓練速度有著越高的要求。隨著GPU硬件技術(shù)的發(fā)展,越來越多的研究集中在GPU通用計算領(lǐng)域上。這為邏輯回歸算法運算加速提供了方向。Tensor Flow作為時下十分流行的機器學習框架,十分支持對GPU的調(diào)用,這也為實現(xiàn)邏輯回歸算法在GPU上的加速提供了合適的平臺。論文針對以上兩個問題,主要完成如下兩方面工作:（1）針對小批量梯度下降法中采用固態(tài)學習率方法進行改進,提出了一... 

【文章來源】：吉林大學吉林省 211工程院校 985工程院校 教育部直屬院校

【文章頁數(shù)】：65 頁

【學位級別】：碩士

【部分圖文】：

線性回歸擬合效果圖

圖 2.3 sigmoid 函數(shù)看出，當自變量 趨近于正無窮時，因變量 趨量 趨近于 0。它可以將任意實數(shù)映射到（0， ，這可以看作是一條分界線，以 0.5 為分界閾 時， 被分為另一個類別。這也是 Sig0.5-6 -4 -2 0 2 4 61

圖 2.5 TensorFlow 計算示意圖Graphics processing unit）簡稱 GPU。GPU 最早被隨著機器學習的發(fā)展與興起，GPU 強大的運算能力 CPU，GPU 有著強大的并行計算能力。如圖 2.6 所是算術(shù)邏輯單元，Cache 是 CPU 內(nèi)部緩存，DRAM 的對比，可以發(fā)現(xiàn) GPU 將更多的晶體管用作執(zhí)行單用來作為控制單元和緩存單元。這也是 GPU 的運

【參考文獻】：
期刊論文
[1]深度神經(jīng)網(wǎng)絡(luò)并行化研究綜述[J]. 朱虎明,李佩,焦李成,楊淑媛,侯彪.  計算機學報. 2018(08)
[2]隨機森林理論淺析[J]. 董師師,黃哲學.  集成技術(shù). 2013(01)
[3]隨機森林方法研究綜述[J]. 方匡南,吳見彬,朱建平,謝邦昌.  統(tǒng)計與信息論壇. 2011(03)
[4]決策樹算法及其核心技術(shù)[J]. 楊學兵,張俊.  計算機技術(shù)與發(fā)展. 2007(01)

碩士論文
[1]GPU存儲管理系統(tǒng)的設(shè)計與實現(xiàn)[D]. 肖靈芝.西安郵電大學 2013



本文編號：3074188