最優(yōu)化在實(shí)際生活中應(yīng)用十分廣泛,故對(duì)全局優(yōu)化問題的相關(guān)理論和方法的研究受到了高度的重視.其中非凸規(guī)劃全局優(yōu)化問題的局部極小點(diǎn)一般是多個(gè),即求解全局極小點(diǎn)是一個(gè)十分困難的問題,而填充函數(shù)法是一類有效求解全局優(yōu)化問題的確定性算法,它是在局部極小化算法的基礎(chǔ)上結(jié)合填充函數(shù)進(jìn)行改造的,故近些年填充函數(shù)法深受學(xué)者們的歡迎.本文主體內(nèi)容分為六個(gè)部分,重點(diǎn)研究了一類特殊非凸規(guī)劃問題的全局最優(yōu)性條件和無約束全局優(yōu)化問題的填充函數(shù)法及其應(yīng)用.第一章,首先對(duì)全局優(yōu)化問題的研究背景、以及全局優(yōu)化填充函數(shù)法和非凸規(guī)劃問題的全局最優(yōu)性條件的研究現(xiàn)狀進(jìn)行介紹,最后闡述本文整體的研究目的和工作.第二章,針對(duì)帶箱子約束的凸函數(shù)與多項(xiàng)式函數(shù)的差的這種特殊形式的規(guī)劃問題,對(duì)其最優(yōu)性條件進(jìn)行研究,主要思想是先刻畫出該規(guī)劃問題的-次微分形式,結(jié)合-次微分和-正則錐的方法給出兩種不同形式的全局最優(yōu)充分性條件,并推導(dǎo)出其全局最優(yōu)必要性條件.將其用來求解相應(yīng)的數(shù)值算例,其中這些算例的全局極小點(diǎn)由隨機(jī)算法先得到,最后通過計(jì)算證明該最優(yōu)性條件是可行的.第三章,針對(duì)無約束全局極小化問題,本章重新構(gòu)造一個(gè)單參數(shù)填充函數(shù),其形式不含有指數(shù)和... 

【文章來源】：浙江師范大學(xué)浙江省

【文章頁(yè)數(shù)】：63 頁(yè)

【學(xué)位級(jí)別】：碩士

【部分圖文】：

算例

36激活函數(shù)和交叉熵?fù)p失函數(shù),內(nèi)容如下:激活函數(shù)[60]在神經(jīng)網(wǎng)絡(luò)模型的學(xué)習(xí)中,激活函數(shù)被用來理解復(fù)雜非線性函數(shù)時(shí)有十分重要的作用,引進(jìn)激活函數(shù)可以將激活函數(shù)的非線性特征引入到神經(jīng)網(wǎng)絡(luò)中,使得神經(jīng)網(wǎng)絡(luò)學(xué)會(huì)對(duì)原始數(shù)據(jù)做非線性變換.如果不引入激活函數(shù),那么即使是深層的神經(jīng)網(wǎng)絡(luò),最終也只有一層的效果,因此使用激活函數(shù)使神經(jīng)網(wǎng)絡(luò)可以任意逼近任何的非線性函數(shù).激活函數(shù)的種類有多種,如Sigmoid函數(shù)、Tanh函數(shù)、Softmax函數(shù)和Relu函數(shù)等.這兩年在深層復(fù)雜的卷積神經(jīng)網(wǎng)絡(luò)中常用到Relu函數(shù),如下圖5.1(a)所示,其中函數(shù)形式為::()=(0,),(5.1)該函數(shù)在自變量小于0時(shí)函數(shù)值為0,自變量大于0時(shí),呈線性關(guān)系,且無論是神經(jīng)網(wǎng)絡(luò)的正向傳播還是反向傳播,Relu函數(shù)運(yùn)行速度都要快很多.而本節(jié)要引入的激活函數(shù)為簡(jiǎn)單的Sigmoid函數(shù),如圖5.1(b)所示,其中函數(shù)形式為::()=11+,(5.2)如圖5.1(b)可知其函數(shù)圖像及其反函數(shù)為單增函數(shù),常被用作為閾值函數(shù),其取值范圍為(0,1),可以將實(shí)數(shù)映射到(0,1)區(qū)間,Sigmoid函數(shù)更適合用來做二分類問題.(a)Relu函數(shù)(b)Sigmoid函數(shù)圖5.1:激活函數(shù)交叉熵?fù)p失函數(shù)[61]交叉熵?fù)p失函數(shù)常被用來計(jì)算預(yù)測(cè)結(jié)果與真實(shí)結(jié)果之間的差別,其函數(shù)表達(dá)形式為:=1∑=1[(())+(1)(1())],(5.3)其中()為上述激活函數(shù)的輸出結(jié)果,即0-1之間的概率值;代表第個(gè)分量的真實(shí)值.由交叉熵?fù)p失函數(shù)可以看出,當(dāng)=0時(shí),=1(1()),此時(shí)該函數(shù)為單調(diào)增函數(shù),即預(yù)測(cè)輸出值()越接近0,損失函數(shù)越小,則預(yù)測(cè)值與真實(shí)值之間的差距越小.

第五章全局優(yōu)化填充函數(shù)法的應(yīng)用41(a)售價(jià)與預(yù)期銷售量關(guān)系圖(b)銷售增長(zhǎng)因子與廣告費(fèi)關(guān)系圖圖5.2:函數(shù)關(guān)系圖其中系數(shù),,是待定參數(shù).投入廣告費(fèi)后,我們從表5.4中可以看出,投入5萬元的廣告費(fèi)用后,銷售增長(zhǎng)因子為2,也就是說當(dāng)加入廣告后,彩漆的銷售量是未加廣告時(shí)銷售量的2倍,可以得知實(shí)際銷售量=預(yù)期銷售量×銷售增長(zhǎng)因子,即=·.則所得到:利潤(rùn)=總收入-成本-廣告費(fèi),因此得=2=(2)=(2)=(2)(+)(2++),我們希望該公司利潤(rùn)達(dá)到最大化,即該問題轉(zhuǎn)化為求解以下模型:(1)=(2)(+)(2++)..>0,>0,(5.11)在求解全局優(yōu)化模型中,我們的優(yōu)化算法都是針對(duì)極小化模型進(jìn)行求解,因此這里將模型(1)轉(zhuǎn)化為以下極小化模型,令=,則得(2)=(2)(+)(2++)..>0,>0.(5.12)由上述圖5.2(a),我們通過SPSS軟件對(duì)表1中的數(shù)據(jù)進(jìn)行擬合以后,可以得出預(yù)期銷售量與售價(jià)之間的函數(shù)關(guān)系:=0.51+5.04,(5.13)


本文編號(hào)：2992385