小樣本、特征維度高,特征數(shù)多于樣本數(shù)會導致大部分模型分析結果誤差較大,這種現(xiàn)象稱為Hughes效應。其中運載火箭經費估算就是典型案例.而通過EM算法改進BP神經網絡得到EM-BP模型,可有效改善Hughes效應。該模型首先將高維樣本輸入至輸入層,其后EM算法基于輸入神經元提取出低維神經元,并激活傳送至隱藏層后,再判斷是否需繼續(xù)使用EM算法,直至最終多次迭代至輸出層得出分析結果。該模型使用TcnsorFlow實現(xiàn),并以長征系列運載火箭經費估算為例驗證效果。結果表明:EM-BP模型較其他常用模型的預測精度有所提高,預測結果平均相對誤差絕對值為3.93%,模型的訓練誤差波動小更穩(wěn)定,且只需4000次迭代即收斂,表明該模型不僅有效改善Hughes效應,同時提高模型分析效率。 

【文章來源】：系統(tǒng)工程. 2020年03期 第151-158頁 北大核心CSSCI

【文章頁數(shù)】：8 頁

【部分圖文】：

圖１?ＥＭ－ＢＰ模型運作流程??樣本收集和預處理完成后，將高維特征送人ＫＭ－ＢＰ??型人，人ＫＭＯ，ＫＭＯ

型分析效率。??本文使用深度學習框架ＴｅｎｓｏｒＦｌｏｗ完成模型實現(xiàn)，??因為ＴｅｎｓｏｒＦｌｏｗ是采用數(shù)據流圖（ｄａｔａ?ｆｌｏｗ?ｇｒａｐｈｓ）構建??模型的開源軟件庫，可高效實現(xiàn)不同模型＿２２＇并支持對各??模型的擴展與改進，方便ＫＭ－ＢＰ模型訓練和分析＾。??ＴｅｎｓｏｒＦｌｏｗ使用圖（ｇｒａｐｈｓ?．）表示計算任務，張量??（Ｔｅｎｓｏｒ）表示數(shù)據，運算稱為ｏｐ（ｏｐｃｒａｔｉｏｎ），一個ｏｐ獲得??０或多個Ｔｅｎｓｏｒ執(zhí)行計算，并產生０或多個Ｔｅｎｓｏｒ?＿。??圖２構建了?ＫＭ－ＢＰ模型在ＴｅｎｓｏｒＦｌｏｗ下的Ｔｅｎｓｏｒ流動??過程。??在圖２中，橢圓表示Ｔｅｎｓｏｒ、白色填充矩形表示ｏｐ、??灰色填充矩形表示各網絡層和迭代器。所有矩形、橢圓和??有向箭頭組成ｇｒａｐｈｓ．按照數(shù)據流向圖在ＴｅｎｓｏｒＦｌｏｗ中??依次構建，完成ＫＭ－ＢＰ模型的實現(xiàn)。??３?基于?ＴｅｎｓｏｒＦｌｏｗ?的?ＥＭ－ＢＰ?模型??３．１運載火箭研制經費估算的實驗步驟??根據ＫＭ－ＢＰ模型的理論構建和運作流程，結合長征??系列運載火箭樣本與特征的實際情況，實驗步驟主要分如??下４步：??圖２?ＥＭ－ＢＭ模型在ＴｅｎｓｏｒＦｌｏｗ內的數(shù)據流動??Ｓｔｃｐｌ：獲取長征系列運載火箭數(shù)據并輸人至ＫＭ－ＢＰ??模型。搜集不同運載火箭型號成本和特征參數(shù)數(shù)據，形成??經費與特征關系表。基于關系表構建高維特征Ｘ穴ｘｉ，??…，ｘＵ輸人至ＫＭ－ＢＰ模型輸人層，然后使用ＫＭＯ??檢驗，若ＫＭＯ檢驗值大于閾值，則進行Ｓｔｅｐ?２；若ＫＭＯ??檢驗值小于閾值，則關系表不夠完善，需繼續(xù)完善關系表??至ＫＭＯ檢驗達到閾值以上。??

１５６??系統(tǒng)工程??２０２０?年???ＥＭ－ＢＰ模型??〇〇〇?ｎｅｕｒｅ＿３??〇〇〇?ｎｅｕｒｅ＿６??？？？?ｎｅｕｒｅ＿８??圖３訓練２００次權重、偏置三維空間分布??為了更詳細觀察整個ＫＭ－ＢＰ模型訓練過程，圖４顯??示迭代１００００次輸出層權重、偏置圖。圖４可見，訓練前??期［０，２０００］，ＫＭ－ＢＰ模型權重、偏置更新幅度很大，訓練??至［２０００，１００００］后，模型權重和偏置緩慢更新，直到滿足??５萬次迭代。作為對比，使用多元線性回歸模型、ＢＰ神經??網絡模型在ＴｃｎｓｏｒＦｌｏｗ中同樣進行５萬次訓練。??由圖５可知：每個模型損失函數(shù)趨于穩(wěn)定的迭代次數(shù)??有較大不同。ＫＭ－ＢＰ模型迭代次數(shù)最少，在４０００次時損??失函數(shù)趨于穩(wěn)定、多元線性回歸４２００次、ＢＰ神經網絡??６０００次。各模型的損失函數(shù)在穩(wěn)定后的變化幅度也不??同，ＫＭ－ＢＰ模型和Ｐ３Ｐ神經網絡的損失函數(shù)變化幅度微??弱，多元回歸模型的損失函數(shù)有較大起伏。??圖４訓練１００００次權重、偏置三維空間分布圖??多元線性回歸??？?ＢＰ神經網絡??１０００?２０００?３０００?４０００?５０００??６０００?７０００?８０００??迭代次數(shù)??圖５損失函數(shù)值隨迭代次數(shù)的變化曲線??結合表３信息，ＫＭ－ＢＰ模型與Ｐ３Ｐ神經網絡、多元線?估算誤差波動范圍變化小且收斂速度更快。表明ＫＭ－ＢＰ??性回歸相比，訓練估算誤差更小，趨于穩(wěn)定時在１．４８％；?模型訓練效率與準確率更高。??表３訓練階段迭代次數(shù)與估算誤差??估算誤差平均值（％）??估算誤差波動范圍的絕對值??迭代次數(shù)??ＥＭ－ＢＰ模型??ＢＰ神經網絡??多元線性回??

【參考文獻】：
期刊論文
[1]幾何分布的參數(shù)估計及EM算法[J]. 張夢琇,周菊玲.  數(shù)學的實踐與認識. 2018(20)
[2]重復使用運載火箭精確回收滑模動態(tài)面控制[J]. 錢默抒,熊克,王海洋.  宇航學報. 2018(08)
[3]基于偏最小二乘模型的無人機航材需求預測方法[J]. 李文強,段振云,趙文輝.  系統(tǒng)工程理論與實踐. 2018(05)
[4]Improvement in Time Efficiency in Numerical Simulation for Solid Propellant Rocket Motors(SPRM)[J]. Valeriy BUCHARSKYI,ZHANG Li-hui,WAN Yi-lun.  推進技術. 2018(01)
[5]基于FQFD的固體火箭發(fā)動機技術特性綜合排序方法[J]. 周偉,羅建軍,王學仁,李賽.  系統(tǒng)工程理論與實踐. 2017(08)
[6]Asymptotic properties and expectation-maximization algorithm for maximum likelihood estimates of the parameters from Weibull-Logarithmic model[J]. GUI Wen-hao,ZHANG Huai-nian.  Applied Mathematics:A Journal of Chinese Universities. 2016(04)
[7]可重復使用運載火箭全壽命周期費用分析[J]. 莊方方,汪小衛(wèi),吳勝寶.  導彈與航天運載技術. 2016(06)
[8]空中遠程作戰(zhàn)體系效能評估的組合分析方法[J]. 鐘季龍,郭基聯(lián).  系統(tǒng)工程. 2015(11)
[9]Uncertainty analysis and probabilistic design optimization of hybrid rocket motors for manned lunar landing[J]. ZHU Hao,TIAN Hui,CAI GuoBiao,BAO WeiMin.  Science China(Technological Sciences). 2015(07)
[10]變量降維及零值數(shù)據在DEA應用中的改進[J]. 趙崤含,胡曉龍,諸克軍.  系統(tǒng)工程. 2015(04)



本文編號：2896543