小樣本、特征維度高,特征數(shù)多于樣本數(shù)會導(dǎo)致大部分模型分析結(jié)果誤差較大,這種現(xiàn)象稱為Hughes效應(yīng)。其中運載火箭經(jīng)費估算就是典型案例.而通過EM算法改進BP神經(jīng)網(wǎng)絡(luò)得到EM-BP模型,可有效改善Hughes效應(yīng)。該模型首先將高維樣本輸入至輸入層,其后EM算法基于輸入神經(jīng)元提取出低維神經(jīng)元,并激活傳送至隱藏層后,再判斷是否需繼續(xù)使用EM算法,直至最終多次迭代至輸出層得出分析結(jié)果。該模型使用TcnsorFlow實現(xiàn),并以長征系列運載火箭經(jīng)費估算為例驗證效果。結(jié)果表明:EM-BP模型較其他常用模型的預(yù)測精度有所提高,預(yù)測結(jié)果平均相對誤差絕對值為3.93%,模型的訓(xùn)練誤差波動小更穩(wěn)定,且只需4000次迭代即收斂,表明該模型不僅有效改善Hughes效應(yīng),同時提高模型分析效率。 

【文章來源】：系統(tǒng)工程. 2020年03期 第151-158頁 北大核心CSSCI

【文章頁數(shù)】：8 頁

【部分圖文】：

圖１?ＥＭ－ＢＰ模型運作流程??樣本收集和預(yù)處理完成后，將高維特征送人ＫＭ－ＢＰ??型人，人ＫＭＯ，ＫＭＯ

型分析效率。??本文使用深度學(xué)習(xí)框架ＴｅｎｓｏｒＦｌｏｗ完成模型實現(xiàn)，??因為ＴｅｎｓｏｒＦｌｏｗ是采用數(shù)據(jù)流圖（ｄａｔａ?ｆｌｏｗ?ｇｒａｐｈｓ）構(gòu)建??模型的開源軟件庫，可高效實現(xiàn)不同模型＿２２＇并支持對各??模型的擴展與改進，方便ＫＭ－ＢＰ模型訓(xùn)練和分析＾。??ＴｅｎｓｏｒＦｌｏｗ使用圖（ｇｒａｐｈｓ?．）表示計算任務(wù)，張量??（Ｔｅｎｓｏｒ）表示數(shù)據(jù)，運算稱為ｏｐ（ｏｐｃｒａｔｉｏｎ），一個ｏｐ獲得??０或多個Ｔｅｎｓｏｒ執(zhí)行計算，并產(chǎn)生０或多個Ｔｅｎｓｏｒ?＿。??圖２構(gòu)建了?ＫＭ－ＢＰ模型在ＴｅｎｓｏｒＦｌｏｗ下的Ｔｅｎｓｏｒ流動??過程。??在圖２中，橢圓表示Ｔｅｎｓｏｒ、白色填充矩形表示ｏｐ、??灰色填充矩形表示各網(wǎng)絡(luò)層和迭代器。所有矩形、橢圓和??有向箭頭組成ｇｒａｐｈｓ．按照數(shù)據(jù)流向圖在ＴｅｎｓｏｒＦｌｏｗ中??依次構(gòu)建，完成ＫＭ－ＢＰ模型的實現(xiàn)。??３?基于?ＴｅｎｓｏｒＦｌｏｗ?的?ＥＭ－ＢＰ?模型??３．１運載火箭研制經(jīng)費估算的實驗步驟??根據(jù)ＫＭ－ＢＰ模型的理論構(gòu)建和運作流程，結(jié)合長征??系列運載火箭樣本與特征的實際情況，實驗步驟主要分如??下４步：??圖２?ＥＭ－ＢＭ模型在ＴｅｎｓｏｒＦｌｏｗ內(nèi)的數(shù)據(jù)流動??Ｓｔｃｐｌ：獲取長征系列運載火箭數(shù)據(jù)并輸人至ＫＭ－ＢＰ??模型。搜集不同運載火箭型號成本和特征參數(shù)數(shù)據(jù)，形成??經(jīng)費與特征關(guān)系表。基于關(guān)系表構(gòu)建高維特征Ｘ穴ｘｉ，??…，ｘＵ輸人至ＫＭ－ＢＰ模型輸人層，然后使用ＫＭＯ??檢驗，若ＫＭＯ檢驗值大于閾值，則進行Ｓｔｅｐ?２；若ＫＭＯ??檢驗值小于閾值，則關(guān)系表不夠完善，需繼續(xù)完善關(guān)系表??至ＫＭＯ檢驗達(dá)到閾值以上。??

１５６??系統(tǒng)工程??２０２０?年???ＥＭ－ＢＰ模型??〇〇〇?ｎｅｕｒｅ＿３??〇〇〇?ｎｅｕｒｅ＿６??？？？?ｎｅｕｒｅ＿８??圖３訓(xùn)練２００次權(quán)重、偏置三維空間分布??為了更詳細(xì)觀察整個ＫＭ－ＢＰ模型訓(xùn)練過程，圖４顯??示迭代１００００次輸出層權(quán)重、偏置圖。圖４可見，訓(xùn)練前??期［０，２０００］，ＫＭ－ＢＰ模型權(quán)重、偏置更新幅度很大，訓(xùn)練??至［２０００，１００００］后，模型權(quán)重和偏置緩慢更新，直到滿足??５萬次迭代。作為對比，使用多元線性回歸模型、ＢＰ神經(jīng)??網(wǎng)絡(luò)模型在ＴｃｎｓｏｒＦｌｏｗ中同樣進行５萬次訓(xùn)練。??由圖５可知：每個模型損失函數(shù)趨于穩(wěn)定的迭代次數(shù)??有較大不同。ＫＭ－ＢＰ模型迭代次數(shù)最少，在４０００次時損??失函數(shù)趨于穩(wěn)定、多元線性回歸４２００次、ＢＰ神經(jīng)網(wǎng)絡(luò)??６０００次。各模型的損失函數(shù)在穩(wěn)定后的變化幅度也不??同，ＫＭ－ＢＰ模型和Ｐ３Ｐ神經(jīng)網(wǎng)絡(luò)的損失函數(shù)變化幅度微??弱，多元回歸模型的損失函數(shù)有較大起伏。??圖４訓(xùn)練１００００次權(quán)重、偏置三維空間分布圖??多元線性回歸??？?ＢＰ神經(jīng)網(wǎng)絡(luò)??１０００?２０００?３０００?４０００?５０００??６０００?７０００?８０００??迭代次數(shù)??圖５損失函數(shù)值隨迭代次數(shù)的變化曲線??結(jié)合表３信息，ＫＭ－ＢＰ模型與Ｐ３Ｐ神經(jīng)網(wǎng)絡(luò)、多元線?估算誤差波動范圍變化小且收斂速度更快。表明ＫＭ－ＢＰ??性回歸相比，訓(xùn)練估算誤差更小，趨于穩(wěn)定時在１．４８％；?模型訓(xùn)練效率與準(zhǔn)確率更高。??表３訓(xùn)練階段迭代次數(shù)與估算誤差??估算誤差平均值（％）??估算誤差波動范圍的絕對值??迭代次數(shù)??ＥＭ－ＢＰ模型??ＢＰ神經(jīng)網(wǎng)絡(luò)??多元線性回??

【參考文獻(xiàn)】：
期刊論文
[1]幾何分布的參數(shù)估計及EM算法[J]. 張夢琇,周菊玲.  數(shù)學(xué)的實踐與認(rèn)識. 2018(20)
[2]重復(fù)使用運載火箭精確回收滑模動態(tài)面控制[J]. 錢默抒,熊克,王海洋.  宇航學(xué)報. 2018(08)
[3]基于偏最小二乘模型的無人機航材需求預(yù)測方法[J]. 李文強,段振云,趙文輝.  系統(tǒng)工程理論與實踐. 2018(05)
[4]Improvement in Time Efficiency in Numerical Simulation for Solid Propellant Rocket Motors(SPRM)[J]. Valeriy BUCHARSKYI,ZHANG Li-hui,WAN Yi-lun.  推進技術(shù). 2018(01)
[5]基于FQFD的固體火箭發(fā)動機技術(shù)特性綜合排序方法[J]. 周偉,羅建軍,王學(xué)仁,李賽.  系統(tǒng)工程理論與實踐. 2017(08)
[6]Asymptotic properties and expectation-maximization algorithm for maximum likelihood estimates of the parameters from Weibull-Logarithmic model[J]. GUI Wen-hao,ZHANG Huai-nian.  Applied Mathematics:A Journal of Chinese Universities. 2016(04)
[7]可重復(fù)使用運載火箭全壽命周期費用分析[J]. 莊方方,汪小衛(wèi),吳勝寶.  導(dǎo)彈與航天運載技術(shù). 2016(06)
[8]空中遠(yuǎn)程作戰(zhàn)體系效能評估的組合分析方法[J]. 鐘季龍,郭基聯(lián).  系統(tǒng)工程. 2015(11)
[9]Uncertainty analysis and probabilistic design optimization of hybrid rocket motors for manned lunar landing[J]. ZHU Hao,TIAN Hui,CAI GuoBiao,BAO WeiMin.  Science China(Technological Sciences). 2015(07)
[10]變量降維及零值數(shù)據(jù)在DEA應(yīng)用中的改進[J]. 趙崤含,胡曉龍,諸克軍.  系統(tǒng)工程. 2015(04)



本文編號：2896543