本文關鍵詞：Adaboost算法改進BP神經網絡預測研究，由筆耕文化傳播整理發(fā)布。

ＣＮ４３—１２５８／ＴＰＩＳＳＮ１００７—１３０；計算機工程與科學；ＣｏｍｐｕｔｅｒＥｎｇｉｎｅｅｒｉｎｇ＆Ｓｃｉｅ；第３５卷第８期２０１３年８月；Ｖ０１．３５，Ｎｏ．８，Ａｕｇ．２０１３；文章編號：１００７一１３０Ｘ（２０１３）０８—０；Ａｄａｂｏｏｓｔ算法改進ＢＰ神經網絡預測研究；李翔，朱全銀；（淮陰工學院計算機工程學院，江蘇淮安２２３００３；摘要：針對

ＣＮ４３—１２５８／ＴＰＩＳＳＮ１００７—１３０Ｘ

計算機工程與科學

ＣｏｍｐｕｔｅｒＥｎｇｉｎｅｅｒｉｎｇ＆Ｓｃｉｅｎｃｅ

第３５卷第８期２０１３年８月

Ｖ０１．３５，Ｎｏ．８，Ａｕｇ．２０１３

文章編號：１００７一１３０Ｘ（２０１３）０８—００９６—０７

Ａｄａｂｏｏｓｔ算法改進ＢＰ神經網絡預測研究。

李翔，朱全銀

（淮陰工學院計算機工程學院，江蘇淮安２２３００３）

摘要：針對傳統(tǒng)ＢＰ神經網絡容易陷入局部極小、預測精度低的問題，提出使用Ａｄａｂｏｏｓｔ算法和

ＢＰ神經網絡相結合的方法，提高網絡預測精度和泛化能力。該方法首先對樣本數(shù)據(jù)進行預處理并初始化測試數(shù)據(jù)分布權值；然后通過選取不同的隱含層節(jié)點數(shù)、節(jié)點傳遞函數(shù)、訓練函數(shù)、網絡學習函數(shù)構造出不同類型的ＢＰ弱預測器并對樣本數(shù)據(jù)進行反復訓練；最后使用Ａｄａｂｏｏｓｔ算法將得到的多個ＢＰ神經網絡弱預測器組成新的強預測器。對ＵＣＩ數(shù)據(jù)庫中數(shù)據(jù)集進行仿真實驗，結果表明本方法比傳統(tǒng)ＢＰ網絡預測平均誤差絕對值減少近５０％，提高了網絡預測精度，為神經網絡預測提供借鑒。

關鍵詞：神經網絡；強預測器；迭代算法；ａｄａｂｏｏｓｔ算法中圖分類號：ＴＰｌ８３

ｄｏｉ：１０．３９６９／ｊ．ｉｓｓｎ．１００７—１３０Ｘ．２０１３．０８．０１５

文獻標志碼：Ａ

ＰｒｅｄｉｃｔｉｏｎｏｆｉｍｐｒｏｖｅｄＢＰｎｅｕｒａｌｎｅｔｗｏｒｋ

ｂｙＡｄａｂｏｏｓｔａｌｇｏｒｉｔｈｍ

ＬＩＸｉａｎｇ，ＺＨＵＱｕａｎ—ｙｉｎ

（Ｆａｃｕｌｔｙｏｆ

Ｃｏｍｐｕｔｅｒ

Ｅｎｇｉｎｅｅｒｉｎｇ，ＨｕａｉｙｉｎＩｎｓｔｉｔｕｔｅｏｆＴｅｃｈｎｏｌｏｇｙ，Ｈｕａｉ’ａｎ２２３００３，Ｃｈｉｎａ）

Ａｂｓｔｒａｃｔ：ＴｈｅｔｒａｄｉｔｉｏｎａｌＢＰ（ＢａｃｋＰｒｏｐａｇａｔｉｏｎ）ｎｅｕｒａｌｎｅｔｗｏｒｋｉｓｅａｓｙ

ａｎｄｈａｓｌｏｗｅｒａｃｃｕｒａｃｙ．ＡｃｃｏｒｄｉｎｇＢＰｎｅｕｒａｌｎｅｔｗｏｒｋｉｓｐｒｏｐｏｓｅｄ

ｔｏ

ｔｏ

ｔｏ

ｆａｌｌｉｎｔｏｌｏｃａｌｍｉｎｉｍｕｍ

ｔｈｉｓｐｒｏｂｌｅｍ，ａｍｅｔｈｏｄｔｈａｔｃｏｍｂｉｎｅｓｔｈｅＡｄａｂｏｏｓｔａｌｇｏｒｉｔｈｍａｎｄ

ｉｍｐｒｏｖｅｔｈｅｐｒｅｄｉｃｔｉｏｎａｃｃｕｒａｃｙａｎｄｇｅｎｅｒａｌｉｚａｔｉｏｎａｂｉｌｉｔｙｏｆｔｈｅｎｅｕｒａｌ

ｎｅｔｗｏｒｋ．Ｆｉｒｓｔｌｙ，ｔｈｅｍｅｔｈｏｄｐｒｅｐｒｏｃｅｓｓｅｓｔｈｅｈｉｓｔｏｒｉｃａｌｄａｔａａｎｄｉｎｉｔｉａｌｉｚｅｓｔｈｅｄｉｓｔｒｉｂｕｔｉｏｎｗｅｉｇｈｔｓｏｆ

ｔｅｓｔ

ｄａｔａ．Ｓｅｃｏｎｄｌｙ，ｉｔｓｅｌｅｃｔｓｄｉｆｆｅｒｅｎｔｈｉｄｄｅｎｌａｙｅｒｎｏｄｅｓ，ｎｏｄｅｔｒａｎｓｆｅｒｆｕｎｃｔｉｏｎｓ，ｔｒａｉｎｉｎｇｆｕｎｃｔｉｏｎｓ，

ｔｏｃｏｎｓｔｒｕｃｔ

ａｎｄｎｅｔｗｏｒｋｌｅａｒｎｉｎｇｆｕｎｃｔｉｏｎｓｗｅａｋｐｒｅｄｉｃｔｏｒｓｏｆＢＰｎｅｕｒａｌｎｅｔｗｏｒｋａｎｄｔｒａｉｎｓｔｈｅｓａｍｐｌｅ

ｔｏ

ｄａｔａｒｅｐｅａｔｅｄｌｙ．Ｆｉｎａｌｌｙ，ｉｔｍａｄｅｍｏｒｅｗｅａｋｐｒｅｄｉｃｔｏｒｓｏｆＢＰｎｅｕｒａｌｎｅｔｗｏｒｋ

ｆｏｒｍ

ａ

ｎｅｗｓｔｒｏｎｇｐｒｅ—

ｄｉｃｔｏｒｂｙＡｄａｂｏｏｓｔａｌｇｏｒｉｔｈｍ．ＴｈｅｄａｔａｂａｓｅｏｆＵＣＩ（ＵｎｉｖｅｒｓｉｔｙｏｆＣａｌｉｆｏｒｎｉａＩｒｖｉｎｅ）ｉｓｕｓｅｄｉｎｅｘｐｅｒｉ－ｍｅｎｔｓ．Ｔｈｅｒｅｓｕｌｔｓｓｈｏｗｔｈａｔｔｈｉｓｍｅｔｈｏｄｐａｒｅｄ

ｔｏ

ｃａｎ

ｒｅｄｕｃｅｎｅａｒｌｙ５０％ｆｏｒｔｈｅｍｅａｎ

ｅｒｒｏｒ

ａｂｓｏｌｕｔｅｖａｌｕｅｃｏｒｎ—

ｔｈｅｔｒａｄｉｔｉｏｎａｌＢＰｎｅｔｗｏｒｋ，ａｎｄｉｍｐｒｏｖｅｔｈｅｐｒｅｄｉｃｔｉｏｎａｃｃｕｒａｃｙｏｆｎｅｔｗｏｒｋ．Ｓｏｔｈｉｓｍｅｔｈｏｄ

ｐｒｏｖｉｄｅｓｒｅｆｅｒｅｎｃｅｓｆｏｒｔｈｅｎｅｕｒａｌｎｅｔｗｏｒｋｐｒｅｄｉｃｔｉｏｎ．

Ｋｅｙｗｏｒｄｓ：ｎｅｕｒａｌｎｅｔｗｏｒｋ；ｓｔｒｏｎｇｐｒｅｄｉｃｔｏｒ；ｉｔｅｒａｔｉｖｅａｌｇｏｒｉｔｈｍ；ａｄａｂｏｏｓｔａｌｇｏｒｉｔｈｍ

絡具有較高的預測精度、較好的通用性、較強的非

引言

反向傳播ＢＰ（ＢａｃｋＰｒｏｐａｇａｔｉｏｎ）神經網絡是一種按誤差逆?zhèn)鞑ニ惴ㄓ柧毜亩鄬忧梆伨W絡，是目前應用最廣泛的神經網絡模型之一［１］。ＢＰ神經網

線性映射能力等優(yōu)點。但是，ＢＰ神經網絡也存在一些缺陷，主要表現(xiàn)為容易陷入局部極小值、算法收斂速度較慢、隱含單元的數(shù)目選擇尚無一般性指導原則、新加入的學習樣本對已學完樣本的學習結果影響較大等問題。

收稿日期：２０１２—０６—１８｝修回日期：２０１２—１０—２２

基金項目：國家星火計劃資助項且（２０１１ＧＡ６９０１９０）；江蘇省屬高校自然科學重大基礎研究資助項目（１１ＫＪＡ４６０００１）通訊地址：２２３００３江蘇省淮安市大學城淮陰工學院計算機工程學院

Ａｄｄｒｅｓｓ：ＦａｃｕｌｔｙｏｆＣｏｍｐｕｔｅｒＥｎｇｉｎｅｅｒｉｎｇ，ＨｕａｉｙｉｎＩｎｓｔｉｔｕｔｅｏｆＴｅｃｈｎｏｌｏｇｙ，Ｈｕａｉ’ａｎ

２２３００３，Ｊｉａｎｇｓｕ，Ｐ，Ｒ．Ｃｈｉｎａ

李翔等：Ａｄａｈｏｏｓｔ算法改進ＢＰ神經網絡預測研究針對以上問題，提出了很多ＢＰ網絡改進方

法。文獻［２，３］提出通過采用附加動量法和變學習

率改進ＢＰ網絡。附加動量法有助于使網絡從誤差曲面的局部極小值中跳出，但對于絕大多數(shù)實際應用問題，該方法訓練速度仍然較慢。變學習率方法根據(jù)誤差變化自適應調整，使權系數(shù)調整向誤差

減少的方向變化，但該方法仍然存在權值修正量較

小的問題，導致學習率降低。文獻［４，５］提出使用粒子群算法優(yōu)化ＢＰ網絡，使網絡訓練收斂到全局的最優(yōu)，已解決了ＢＰ算法易陷入局部極小值的問題，但該算法只能有限提高原有ＢＰ神經網絡的預測精度，并不能把預測誤差較大的ＢＰ神經網絡優(yōu)化為能夠準確預測的ＢＰ網絡，且對樣本數(shù)量少、樣本分布不均勻而造成預測誤差大的問題，優(yōu)化后

的網絡預測能力一般得不到明顯提高。文獻［６１提

出將Ａｄａｂｏｏｓｔ算法應用到ＢＰ網絡，但選用的數(shù)據(jù)記錄僅有１１條，預測結果可信度不足。

本文針對上述問題，提出ＢＰ神經網絡結合Ａｄａｂｏｏｓｔ算法組成的強預測器的方法，并用ＵＣＩ

數(shù)據(jù)庫中的數(shù)據(jù)集進行仿真實驗，證明本文所提方

法的有效性。

２

ＢＰ神經網絡與Ａｄａｂｏｏｓｔ算法

２．１

ＢＰ神經網絡原理

ＢＰ神經網絡是一種有監(jiān)督學習多層前饋神經

網絡，其主要特點是信號前向傳遞、誤差反向傳播［７］。在信號前向傳遞過程中，輸入信號從輸入層

進入，經過隱含層處理，到達輸出層。每一層的神經元狀態(tài)只影響下一層的神經元狀態(tài)。判斷輸出層的結果是否為期望輸出，如果不是，則轉入反向傳播，然后根據(jù)預測誤差調整網絡權值和閾值，從而使ＢＰ神經網絡預測輸出不斷逼近期望輸出［８］，ＢＰ神經網絡的拓撲結構如圖１所示。

輸人層

患舍層

輸出層

Ｆｉｇｕｒｅ１

Ｔｏｐｏｌｏｇｉｃａｌ

ｓｔｒｕｃｔｕｒｅ

ｏｆＢＰｎｅｕｒａｌｎｅｔｗｏｒｋ

圖１ＢＰ神經網絡拓撲結構圖

９７

圖１中，ｚｌ，ｚ：，…，ｚ。是ＢＰ神經網絡的輸入值，姐�！�，Ｙ。是ＢＰ神經網絡的預測值，∞ａ和∞業(yè)為ＢＰ神經網絡權值。

２．２

Ａｄａｂｏｏｓｔ算法原理

Ａｄａｂｏｏｓｔ是一種迭代算法，通過對弱學習算

法的加強而得到強學習算法，即通過一個包含關鍵特征的弱分類器集合，構建出具有理想分類能力的強分類器口］。Ａｄａｂｏｏｓｔ算法的優(yōu)點在于它使用加權后選取的訓練數(shù)據(jù)代替隨機選取的訓練樣本，將弱分類器聯(lián)合起來，使用加權的投票機制代替平均投票機制［１

０。。

２．３基于Ａｄａｂｏｏｓｔ算法的ＢＰ神經網絡預測模型

本文通過對ＢＰ神經網絡選取不同參數(shù)來構造多類ＢＰ弱預測器，然后使用Ａｄａｂｏｏｓｔ算法將得到的多個弱預測器組成新的強預測器。

ＢＰ神經網絡在Ｍａｔｌａｂ中的構造函數(shù)為：

ｎｅｔ

ｎｅｗｆｆ（Ｐ，Ｔ，Ｓ，ＴＦ，ＢＴＦ，ＢＬＦ，ＰＦ，ＩＰＦ，

ＯＰＦ，ＤＤＦ），其中，Ｐ為輸人數(shù)據(jù)矩陣，Ｔ為輸出

數(shù)據(jù)矩陣，Ｓ為隱含層節(jié)點數(shù)，”為節(jié)點傳遞函

數(shù)，ＢＴＦ為訓練函數(shù)，ＢＬＦ為網絡學習函數(shù)，ＰＦ為性能分析函數(shù)，ＩＰＦ為輸人處理函數(shù)，ｏＰＦ為輸

出處理函數(shù)，ＤＤＦ為驗證數(shù)據(jù)劃分函數(shù)。一般通

過設置Ｓ、”、ＢＴＦ、ＢＬＦ幾個參數(shù)來改變ＢＰ神

經網絡性能，可選擇值如表１所示。

Ｔａｂｌｅ１

Ｆｕｃｔｉｏｎ

ｐａｒａｍｅｔｅ隋ｏｆＢＰ

ｎｅ刪ｎｅｔｗｏｒｋ

裹１

ＢＰ神經圈絡函數(shù)參斂

參數(shù)含義

可選參散及Ｍａｆｌａｂ實璦函數(shù)

ｓ＜ｎ一１（＾為輸人層節(jié)點數(shù)）

。融舍層ｓ＜／石再■萬＋ｎ（ｎ為輸入層節(jié)點數(shù)，ｍ為輸出

。

節(jié)點數(shù)層節(jié)點數(shù)．ｎ為ｏ～ｌｏ的常數(shù)）

Ｓ—Ｉｂｎ（ｎ為輸入層節(jié)點數(shù)）

仃薹言蠖黧蘭№

硬限幅傳遞函數(shù)ｈａｒｄｌｉｍ

對數(shù)Ｓ型傳遞函數(shù)Ｉｏｇｓｉｇ

梯度下降ＢＰ算法弼練函數(shù)ｔｒａｉｎｇｄ

動量反傳的梯度下降ＢＰ算法訓練函數(shù)ｔｒａｉｎｇｄｍ

…

。，。訓練動態(tài)自適應學習率的ＢＰ算法訓練函數(shù)ｔｒａｉｎｇｄａ函數(shù)

動量反傳和動態(tài)自適應學習率的梯度下降ＢＰ算法調練函數(shù)ｔｒａｉａｇｄｘ

Ｌｅｖｅｎｂｅｒｇ＿Ｍａｒｑｕａｒｄｔ的ＢＰ算法訓練函數(shù)ｔｒａｉｎｌｍ

…網絡學ＢＰ學習規(guī)則函數(shù)ｌｅａｒｎｇｄ

～‘習函數(shù)帶動量項的ＢＰ學習規(guī)則函數(shù)ｌｅａｒｎｇｄｒｒｌ

通過ｎｅｗｆｆ函數(shù)及Ｓ、ＴＦ、ＢＴＦ、ＢＬＦ等參數(shù)

的調整，可以構造出不同類型的ＢＰ弱預測器。

本文提出的基于Ａｄａｂｏｏｓｔ算法的ＢＰ神經網

９８

Ｃｏｍｐｕｔｅｒ

Ｅｎｇｉｎｅｅｒｉｎｇ＆Ｓｃｉｅｎｃｅ計算機工程與科學２０１３，３５（８）

絡預測算法流程如圖２所示。

［捧磁據(jù)選擇）ＨＢ嘲預測器供型１）卜

叫ＢＰ弱預測器供型２）卜Ａｄａｂｏｏｓ！

ｉ

‰㈤＝半×｛宇，妒ｌ副

踟㈤一室峰塑型

圣（ｂｇ擊）

實驗與結果分析７、。一。一，�！弧�

３?１實驗數(shù)據(jù)

ｌ樣本數(shù)據(jù)預處理卜＿叫船弱預測器供型３）卜．

Ｌ叫ＢＰ弱預測器供型帕卜

Ｆｉｇｕｒｅ２

算法迭

代運算

圖

２Ａｄａｂｏｏｓｔ算法的ＢＰ神經網絡預測算法流程圖３基于甜ＢＰ基于算法詳細步驟如下：

步驟１樣本數(shù)據(jù)選擇及網絡初始化。令迭

ｎｅｕ銎法ｎｅ的ｔｗｏｒｋ神ｗｉ經ｔｈ黼二法流程圖

Ｌ

，‘Ｊ

Ｐｒｅｄｉｃｔｉｏｎａｌｇｏｒｉｔｈｍｆｌｏｗｃｈａｒｔ

代次數(shù)ｔ一１時，權值分布ｌｎ（ｉ）＝÷ｌ，ｉ＝１，２，

…，咒，其中九為訓練集樣本的數(shù)量，令初始誤差率￡。一ｏ。根據(jù)樣本輸入輸出維數(shù)設計網絡結構，并對ＢＰ網絡權值和閾值咖（ｏ＜≯＜１）進行初始化設置。

步驟２樣本數(shù)據(jù)預處理。步驟３

ＢＰ弱預測器預測。通過選取不同

ＵＣＩ數(shù)據(jù)庫是美國加州大學歐文分校（Ｕｎｉ—

ｖｅｒｓｉｔｙｏｆＣａｌｉｆｏｒｎｉａ

Ｉｒｖｉｎｅ）提供的用于機器學習

的著名數(shù)據(jù)庫，該庫目前共有２２０個數(shù)據(jù)集，并且其數(shù)目還在不斷增加。本實驗選擇ＵＣＩ數(shù)據(jù)庫中

的Ｃｏｍｐｕｔｅｒ

Ｈａｒｄｗａｒｅ、Ｃｏｎｃｒｅｔｅ

Ｃｏｍｐｒｅｓｓｉｖｅ

Ｓｔｒｅｎｇｔｈ兩個數(shù)據(jù)集進行回歸預測，數(shù)據(jù)集下載地址為ｈｔｔｐ：／／ａｒｃｈｉｖｅ．ｉｃｓ．ｕｃｉ．ｅｄｕ／ｍｌ／ｄａｔａｓｅｔｓ／。

Ｃｏｍｐｕｔｅｒ

Ｈａｒｄｗａｒｅ數(shù)據(jù)集包含２０９條計算

ＢＰ神經網絡函數(shù)構造不同類別ＢＰ弱預測器。對

機ＣＵＰ性能數(shù)據(jù)，該數(shù)據(jù)集共有１０個屬性，分別為ＶｅｎｄｏｒＮａｍｅ（Ｐ１）、ＭｏｄｅｌＮａｍｅ（Ｐ２）、ＭＹＣＴ（Ｐ３）、ＭＭＩＮ（Ｐ。）、ＭＭＡＸ（Ｐ５）、ＣＡＣＨ（Ｐ６）、

ＣＨＭＩＮ（Ｐ７）、ＣＨＭＡＸ（Ｐ。）、ＰＲＰ（Ｚ０）、ＥＲＰ

于￡＝１，…，丁進行迭代，在訓練第ｔ個弱預測器

時，使用ＢＰ神經網絡對訓練數(shù)據(jù)進行訓練，建立回歸模型ｇ。（ｚ）一ｙ。

計算ｇ。（ｚ）的誤差率ｅ。：

（Ｚ，。），其中ＰＲＰ為硬件廠商公布的性能，ＥＲＰ為預測性能。從中隨機選取１６９組數(shù)據(jù)作為訓練數(shù)據(jù)，４０組數(shù)據(jù)作為測試數(shù)據(jù)，選�。校场�。作為訓練屬性，選取磊作為實際輸出，Ｚ。。供參考。

Ｃｏｍｐｕｔｅｒ

ｅ。一＞：Ｄ。（ｉ）

其中ｉ滿足Ｉ壘魚生二苧Ｉ＞≯。

Ｙｉ

步驟４測試數(shù)據(jù)權重調整。令Ｂ＝ｅ；，更新

權重如下，式中Ｂｆ為標準化因子：

Ｔａｂｌｅ２

Ｈａｒｄｗａｒｅ數(shù)據(jù)集原始數(shù)據(jù)如表２所

示。

ＣｏｍｐｕｔｅｒｈａｒｄｗａｒｅｄａｔａｓｅｔＣｏｍｐｕｔｅｒＨａｒｄｗａｒｅ數(shù)據(jù)集

Ｐｔ

Ｐ７

Ｐｓ

ｚ９

表２

釋號ＰＬ

１

ａｄｖｉｓｅｒ

Ｐ２

Ｐ３

Ｐ‘Ｐｓ

３２／６０４７０ｖ／７４７０ｖ／７ａ４７０ｖ／７ｂ４７０ｖ／７ｃ

ｉ

ｖｓ－１００

１２５２５６６０００２５６１６１２８１９８

２ａｍｄａｈｌ２９８０００３２０００３２８３２２６９

３ａｍｄａｈｌ２９８０００３２０００３２８３２２２０

４

ａｍｄａｈｌ２９８０００３２０００３２８化駝；

５

ａｍｄａｈｌ２９

８０００

１６０００

３２８

１

２０８

；ｉ

４８０

ｉ

５１２

；

８０００

；

３２

ｉ

０

ｗａｎｇ

盯帖

２０９

ｗａｎｇ

ｖｓ－９０４８０１０００４０００００

李翔等：Ａｄａｂｏｏｓｔ算法改進ＢＰ神經網絡預測研究

ＣｏｎｃｒｅｔｅＣｏｍｐｒｅｓｓｉｖｅ

Ｓｔｒｅｎｇｔｈ數(shù)據(jù)集包含１

０３０條混凝土抗壓強度數(shù)據(jù)，該數(shù)據(jù)集共有９個屬性Ｃｅｍｅｎｔ（Ｐ１）、Ｂｌａｓｔ

ＦｕｒｎａｃｅＳｌａｇ（Ｐ２）、ＦｌｙＡｓｈ

（Ｐ３）、Ｗａｔｅｒ（Ｐ４）、Ｓｕｐｅｒｐｌａｓｔｉｃｉｚｅｒ（Ｐ５）、Ｃｏａｒｓｅ

Ａｇｇｒｅｇａｔｅ（Ｐ６）、ＦｉｎｅＡｇｇｒｅｇａｔｅ（Ｐ７）、Ａｇｅ（Ｐ８）、

４５００５０４００廠—Ｐ

ｆ｝

９９

Ｉ匕＝型望型１

１

０

３５０

掣３００

２５０噻２００

１５０

Ｃｏｎｃｒｅｔｅ（Ｚ９），其中，Ｃｏｎｃｒｅｔｅ（Ｚ９）為輸出的混凝土抗壓強度。從中隨機選�。保埃埃敖M數(shù)據(jù)作為訓練數(shù)據(jù)，３０組數(shù)據(jù)作為測試數(shù)據(jù)。Ｃｏｎｃｒｅｔｅ

ｐｒｅｓｓｉｖｅ

Ｃｏｍ—

１００５０

Ｓｔｒｅｎｇｔｈ數(shù)據(jù)集原始數(shù)據(jù)如表３所示。

５

１０

１５２０２５３０３５４０

３．２實驗及結果分析

使用１０個ＢＰ神經網絡構成弱預測器序列，

Ｆｉｇｕｒｅ３

Ｃｏｍｐｕｔｅｒ

Ｈａｒｄｗａｒｅ預測樣本

ｅｒｒｏｒ

Ａｂｓｏｌｕｔｅｖａｌｕｅｏｆｃｏｍｐｕｔｅｒｈａｒｄｗａｒｐｒｅｄｉｃｔｉｏｎ

Ｃｏｍｐｕｔｅｒ

這ｌｏ個ＢＰ神經網絡的Ｓ、玎、ＢＴＦ、ＢＬＦ參數(shù)選

擇如表４所示。

Ｔａｂｌｅ

圖３

帖∞

弘

Ｈａｒｄｗａｒｅ預測誤差絕對值圖

４

ＰａｒａｍｅｔｅｒｓｅｌｅｃｔｉｏｎｏｆＢＰｗｅａｋｐｒｅｄｉｃｔｏｒ

表４ＢＰ弱預測器參數(shù)選擇

遙

七’

》（

如巧加

博ｍ，００

鼎

淵媸

５１５１０

ＣｏｎｃｒｅｔｅＣｏｍｐｒｅｓｓｉｖｅ

２０

２５

３０

Ｓｔｒｅｎｇｔｈ預測樣本

Ｆｉｇｕｒｅ４

Ａｂｓｏｌｕｔｅｖａｌｕｅｏｆ

ｅｒｒｏｒ

Ｃｏｎｃｒｅｔｅｃｏｍｐｒｅｓｓｉｖｅｓｔｒｅｎｇｔｈｐｒｅｄｉｃｔｉｏｎ

圖４ＣｏｎｃｒｅｔｅＣｏｍｐｒｅｓｓｉｖｅＳｔｒｅｎｇｔｈ預測誤差絕對值圖

Ｃｏｍｐｕｔｅｒ

ｓｉｖｅ

ＣｏｍｐｕｔｅｒＨａｒｄｗａｒｅ和ＣｏｎｃｒｅｔｅＣｏｍｐｒｅｓ—

ｓｉｖｅ

Ｈａｒｄｗａｒｅ和ＣｏｎｃｒｅｔｅＣｏｍｐｒｅｓ—

Ｓｔｒｅｎｇｔｈ數(shù)據(jù)集的網絡訓練過程中誤差均方

下降曲線分別如圖５和圖６所示。

Ｃｏｍｐｕｔｅｒｓｉｖｅ

Ｓｔｒｅｎｇｔｈ數(shù)據(jù)集的強預測器預測誤差絕對值Ｈａｒｄｗａｒｅ和ＣｏｎｃｒｅｔｅＣｏｍｐｒｅｓ—

和弱預測器預測平均誤差絕對值圖分別如圖３和圖４所示。

Ｔａｂｌｅ３

ＣｏｎｃｒｅｔｅＣｏｎｃｒｅｔｅ

Ｓｔｒｅｎｇｔｈ數(shù)據(jù)集的網絡訓練回歸狀態(tài)圖分別

如圖７和圖８所示。

ｃｏｍｐｒｅｓｓｉｖｅｓｔｒｅｎｇｔｈｄａｔａｓｅｔ

表３

序號

１

Ｐｌ

Ｐ２

Ｐ３

ＣｏｍｐｒｅｓｓｉｖｅＳｔｒｅｎｇｔｈ數(shù)據(jù)集

Ｐ５

Ｐ６

Ｐ７

Ｐ８

Ｐ４Ｚ９

７９．９９

５４０００

１６２２．５１０４０６７６２８

２５４０

Ｏ

Ｏ１６２２．５１０５５６７６２８６１．８９

３

３３２．５

１４２．５Ｏ

２２８０９３２５９４２７０４０．２７

４３３２．５１４２．５Ｏ２２８０９３２５９４３６５４１．０５

５１９８．６１３２．４Ｏ１９２０９７８．４８２５．５３６０４４．３０

：

●

：

●

：

●

１０２９１５９．１１８６．７Ｏ１７５．６

１１．３９８９．６７８８．９２８３２．７７

１０３０

２６０．９

１００．５

７８．３２００．６８．６８６４．５７６１．５２８３２．４０

１００

Ｃｏｍｐｕｔｅｒ

Ｅｎｇｉｎｅｅｒｉｎｇ＆Ｓｃｉｅｎｃｅ計算機工程與科學２０１３，，３５（８）

Ｔｒａｉｎｉｎｇ：Ｒ－－Ｏ

０．５

９３２５１

Ｖａｌｉｄａｔｉｏｎ：Ｒ＝Ｏ９２１４１

ｏ。

ｇ

篙

ｑ

寧

一４－

暨０

寧±‰

昌冬

０南

噸Ｃ

¨

幫一０．５圭

導

土

星

蘭Ｃ

言一１

ＴａｒｇｅｔＴｅｓｔ：Ｒ＝０．９６９０７

Ａｌｌ：Ｒ＝０９２８８４

蘭ｏ

０２４

６

ｌＯＥｐｏｅｈｓ

０

Ｆｉｇｕｒｅ５

Ｄｅｃｌｉｎｅ

ｃｕｒｖｅ

ｏｆＣｏｍｐｕｔｅｒＨａｒｄｗａｒｅ

圖５

Ｃｏｍｐｕｔｅｒ

Ｈａｒｄｗａｒｅ誤差均方下降曲線

Ｆｉｇｕｒｅ８

Ｒｅｇｒｅｓｓｉｏｎ

Ｃｏｎｃｒｅｔｅ

ｓｔａｔｅ

ｏｆＣｏｎｃｒｅｔｅＣｏｍｐｒｅｓｓｉｖｅＳｔｒｅｎｇｔｈ

圖８

ＣｏｍｐｒｅｓｓｉｖｅＳｔｒｅｎｇｔｈ回歸狀態(tài)圖Ｃｏｎｔｒａｓｔｂｅｔｗｅｅｎｍｅａｎ

ｐｒｅｄｉｃｔｉｏｎｒｅｓｕｌｔｓ

Ｔａｂｌｅ７

ｅｒｒｏｒ

ａｂｓｏｌｕｔｅｖａｌｕｅｏｆ

表７預測結果平均誤差絕對值對比

預測模型ｃｏ平ｍ均ｐｕ誤ｔｅｒ差Ｈ絕ａｒ對ｄｗ值ａｒｅ

ｃ帆；｛ｉ！；蕊８ｉｗ

２．２９４．７８

２０Ｅｐｏｃｈｓ

ＡｄａｂｏｏｓｔＢＰ３３．８９

Ｆｉｇｕｒｅ６

Ｄｅｃｌｉｎｅ

ｃｕｒｖｅ

ｏｆＣｏｎｃｒｅｔｅ

ＢＰ６８．３６

ＣｏｍｐｒｅｓｓｉｖｅＳｔｒｅｎｇｔｈＭＳＥ

圖６

卜

ＣｏｎｃｒｅｔｅＣｏｍｐｒｅｓｓｉｖｅＳｔｒｅｎｇｔｈ誤差均方下降曲線

Ｔｒａｉｎｉｎｇ：Ｒ－－０．９８４２４

使用相關系數(shù)Ｒ來表示擬合的好壞，Ｒ的取值范圍為［ｏ１］，Ｒ越接近１，表明方程的變量對Ｙ的解釋能力越強，這個模型對數(shù)據(jù)擬合得也較好。

從圖３可以看出，ＣｏｍｐｕｔｅｒＨａｒｄｗａｒｅ數(shù)據(jù)集預測誤差值中，強預測器預測誤差明顯小于弱預測器預測誤差，強預測器整體預測誤差較小，預測結果較好。從圖５可以看出，ＣｏｍｐｕｔｅｒＨａｒｄｗａｒｅ數(shù)據(jù)集訓練的誤差均方下降曲線收斂速度較快，在第

ｇ寧

老

毒

冬

詈一０

１

圣

毒一

罨。

±鮚

Ｔｅｓｔ：Ｒ：ｏ９１４１２

ｌ

Ａｌｌ：Ｒ＝０．９６９０７

四步時達到最好的驗證集效果為０．００５５，誤差曲線開始趨于平緩，誤差值基本不再發(fā)生變化，效果較好。從圖７可以看出，強預測器預測的訓練集

０５

喜｝ｇ

０

有一０

土

０５

Ｒ一０．９８４Ｒ一０．９１４

２，驗證集Ｒ一０．９８６３，測試集１，總體Ｒ一０．９６９０，回歸預測結果很好。

Ｃｏｍｐｒｅｓｓｉｖｅ

己

芎ｅ‘

－０．５Ｔａｒｇｅｔ

０

一

●

從圖４可以看出，Ｃｏｎｃｒｅｔｅ

Ｓｔｒｅｎｇｔｈ數(shù)據(jù)集預測誤差值中，強預測器預測誤差

ｓｔａｔｅ

Ｆｉｇｕｒｅ７

Ｒｅｇｒｅｓｓｉｏｎ

ｏｆＣｏｍｐｕｔｅｒＨａｒｄｗａｒｅ明顯小于弱預測器預測誤差，強預測器整體預測誤差較小，預測結果較好。從圖６可以看出，Ｃｏｎ－

ｃｒｅｔｅ

圖７ＣｏｍｐｕｔｅｒＨａｒｄｗａｒｅ回歸狀態(tài)圖

Ｃｏｍｐｕｔｅｒ

Ｈａｒｄｗａｒｅ數(shù)據(jù)集測預誤差如表５

Ｃｏｍｐｒｅｓｓｉｖｅ

Ｃｏｍｐｒｅｓｓｉｖｅ

Ｓｔｒｅｎｇｔｈ數(shù)據(jù)集訓練的誤差均

所示，Ｃｏｎｃｒｅｔｅ表７所示。

Ｓｔｒｅｎｇｔｈ數(shù)據(jù)集預測

方下降曲線在第１５步時達到最好的驗證集效果為

０．００２

誤差如表６所示，預測結果平均誤差絕對值對比如

１，誤差曲線開始趨于平緩，誤差值基本不再

發(fā)生變化，效果較好。從圖８可以看出，強預測器

　

　

下載地址：73Adaboost算法改進BP神經網絡預測研究_圖文.Doc

　　【】

最新搜索

Adaboost算法改進BP神經網絡預測研究_圖文

幼兒園師帶徒協(xié)議書

小學漢語拼音字母表卡片(四線格版)03

52替魏延辯誣

962011年時事政治(國內外)[1]

銷售精英激勵與實戰(zhàn)技能提升15

18拳擊比賽的技巧

四五六單元上冊教案語文71

71二年級上豎式計算

100年后45

  本文關鍵詞：Adaboost算法改進BP神經網絡預測研究，由筆耕文化傳播整理發(fā)布。

本文編號：176400