金融領(lǐng)域風險控制永遠是業(yè)務的核心基礎(chǔ)。我們要通過對業(yè)務的理解應用數(shù)學理論知識建立信用評分模型,科學的解決信用評分問題,減少信用違約的風險,提高企業(yè)的收益,使盈利最大化。傳統(tǒng)的機器學習模型在數(shù)據(jù)量大,結(jié)構(gòu)復雜和維度增大的情況下給算法的訓練和預測帶來問題。大數(shù)據(jù)時代的到來,給信用評分這個傳統(tǒng)問題帶來問題和挑戰(zhàn),將深度學習算法應用到信用評分上是一個值得研究的問題。本文主要工作如下:（1）提出結(jié)合DBN和ELM的改進深度學習算法深度置信網(wǎng)絡（DBN）算法的是一種性能優(yōu)秀的深度學習模型,但是訓練需要經(jīng)過預訓練和微調(diào)兩個階段,耗費了大量的時間。極限學習機（ELM）算法具有訓練速度快,泛化性育能好的特點,但是研究表明ELM算法往往需要更多的隱層神經(jīng)元才會取得好的效果,即模型的訓練需要更大的內(nèi)存。為了有效的結(jié)合兩者的優(yōu)點,本文提出了一種將ELM和DBN結(jié)合的新算法DBN-DELM。同時為了有效利用中間隱層信息提出了借鑒bagging思想的 DBN-DELM-ensemble 算法,并分別將 DBN,ELM 和 IDBN,DBN-DELM,DBN-DELM-ensemble算法應用在手寫體數(shù)據(jù)集MNIS... 

【文章來源】：西安理工大學陜西省

【文章頁數(shù)】：66 頁

【學位級別】：碩士

【部分圖文】：

限制玻爾茲曼機模型

深度信念網(wǎng)絡模型

圖 2-2 深度信念網(wǎng)絡模型Fig 2-2 Deep Belief Network Model圖可以看出，限制玻爾茲曼機和深度信念網(wǎng)絡結(jié)構(gòu)的關(guān)系為深度信念網(wǎng)絡是由多爾茲曼機通過無監(jiān)督預訓練堆疊組成的。于 DBN 模型的訓練可以分為無監(jiān)督預訓練和有監(jiān)督的微調(diào)過程，第一個過程通得到一個好的初始化參數(shù)避免 BP 算法在深層網(wǎng)絡優(yōu)化中的梯度消失問題，同時速度，第二個過程通過 BP 算法在已經(jīng)得到好的初始化參數(shù)的深度網(wǎng)絡中進行全微調(diào)，使得算法效果更佳。詳細的過程為：1）無監(jiān)督學習BN 算法的無監(jiān)督預訓練過程如圖 2-3 所示，通過訓練數(shù)據(jù)逐層傳遞，貪婪的訓個 RBM 的參數(shù)ijw ,ia 和jb ，這樣為下一步的全局微調(diào)得到一個好的初始化參數(shù)

【參考文獻】：
期刊論文
[1]基于CRBM算法的時間序列預測模型研究[J]. 周曉莉,張豐,杜震洪,曹敏杰,劉仁義.  浙江大學學報(理學版). 2016(04)
[2]一種基于膠質(zhì)細胞鏈的改進深度信念網(wǎng)絡模型[J]. 耿志強,張怡康.  自動化學報. 2016(06)
[3]一種交替變換更新層數(shù)的DBN-DNN快速訓練方法[J]. 李軒,李春升.  計算機應用研究. 2016(03)
[4]基于極限學習的深度學習算法[J]. 趙志勇,李元香,喻飛,易云飛.  計算機工程與設(shè)計. 2015(04)
[5]基于DBN-ELM的球磨機料位軟測量方法研究[J]. 康巖,盧慕超,閻高偉.  儀表技術(shù)與傳感器. 2015(04)
[6]極端學習機算法的改進及應用研究[J]. 牛培峰,馬云鵬,劉魏巖,盧青,楊瀟.  燕山大學學報. 2015(02)
[7]一種改進的深度神經(jīng)網(wǎng)絡在小圖像分類中的應用研究[J]. 呂剛,郝平,盛建榮.  計算機應用與軟件. 2014(04)
[8]基于多GPU的深層神經(jīng)網(wǎng)絡快速訓練方法[J]. 薛少飛,宋彥,戴禮榮.  清華大學學報(自然科學版). 2013(06)
[9]一種基于粒子群優(yōu)化的極限學習機[J]. 王杰,畢浩洋.  鄭州大學學報(理學版). 2013(01)
[10]基于AUC的分類器評價和設(shè)計綜述[J]. 汪云云,陳松燦.  模式識別與人工智能. 2011(01)

碩士論文
[1]決策樹分類算法的研究及其在教學分析中的應用[D]. 劉軍.河海大學 2006



本文編號：3553677