本文選題：協(xié)同約束 + 共生遷移學(xué)習(xí)��； 參考：《江南大學(xué)》2015年博士論文

【摘要】：遷移學(xué)習(xí)方法是一種新的機(jī)器學(xué)習(xí)框架,其放松了對訓(xùn)練數(shù)據(jù)和測試數(shù)據(jù)同分布假設(shè)的要求,能夠利用不同領(lǐng)域的數(shù)據(jù)來幫助目標(biāo)任務(wù)的學(xué)習(xí),有效解決了訓(xùn)練數(shù)據(jù)和測試數(shù)據(jù)分布不一致的學(xué)習(xí)問題。本文以支持向量機(jī)為研究基礎(chǔ),以遷移學(xué)習(xí)為研究內(nèi)容,以提高目標(biāo)領(lǐng)域數(shù)據(jù)分類任務(wù)的精度為目標(biāo),針對遷移學(xué)習(xí)模式下的樣本選擇和特征重構(gòu)方法的問題,從“遷移什么”,“怎么遷移”和“遷移多少”等視角提出幾種適用于遷移學(xué)習(xí)的方法,主要研究成果包括:1.傳統(tǒng)遷移學(xué)習(xí)方法大都是直接利用源領(lǐng)域中的數(shù)據(jù)來輔助完成目標(biāo)領(lǐng)域的學(xué)習(xí)任務(wù),而忽略了領(lǐng)域間互相學(xué)習(xí)的能力。針對此類問題,提出了一種具有協(xié)同約束的共生遷移學(xué)習(xí)方法(Collaborative Constraints based Symbiosis Transfer Learning,CCSTL)。在協(xié)同約束的基礎(chǔ)上,引入共生遷移機(jī)制實(shí)現(xiàn)領(lǐng)域間的交替互動學(xué)習(xí),進(jìn)而強(qiáng)化了源領(lǐng)域和目標(biāo)領(lǐng)域間的知識遷移程度,從而提高受訓(xùn)分類器的分類性能,實(shí)驗(yàn)結(jié)果表明了CCSTL算法的有效性。2.現(xiàn)有的特征遷移通過構(gòu)造特征映射算法主要強(qiáng)調(diào)在領(lǐng)域共有特征間學(xué)習(xí),然而其忽略了領(lǐng)域間特有特征的判別信息,使算法的適應(yīng)性受到一定的局限。針對此問題,提出了一種融合異構(gòu)特征的子空間遷移學(xué)習(xí)(The subspace transfer learning algorithm integrating with heterogeneous features,STL-IHF)算法。STL-IHF算法將領(lǐng)域數(shù)據(jù)的特征空間分成共享特征和特特征的組合,并基于經(jīng)驗(yàn)風(fēng)險(xiǎn)最小框架理論將共享特征和特有特征共同嵌入到支持向量機(jī)的訓(xùn)練過程中。其在共享特征子空間上實(shí)現(xiàn)知識遷移的同時(shí)兼顧了領(lǐng)域特有的異構(gòu)信息,增強(qiáng)了算法的適應(yīng)性。3.針對許多遷移學(xué)習(xí)算法是通過核化轉(zhuǎn)化為二次規(guī)劃(QP)問題來求解,其計(jì)算核矩陣的空間和時(shí)間復(fù)雜度較高,對于大樣本數(shù)據(jù)的訓(xùn)練計(jì)算開銷則更大,限制了多源遷移學(xué)習(xí)方法的適應(yīng)性。針對此問題,提出了一種基于共同決策方向矢量的多源遷移(common-decision-vector based multiple source transfer learning,CDV-MSTL)學(xué)習(xí)方法,該方法基于經(jīng)驗(yàn)風(fēng)險(xiǎn)最小框架理論,以共同決策矢量為基準(zhǔn),通過核化將多個(gè)相似領(lǐng)域的決策方向矢量與共同決策方向矢量嵌入到支持向量機(jī)的訓(xùn)練過程中,有效的提高目標(biāo)領(lǐng)域的分類器的分類性能。并進(jìn)一步結(jié)合CVM理論提出了CDV-CVM快速分類學(xué)習(xí)算法。實(shí)驗(yàn)結(jié)果表明了CDV-MSTL和CDV-CVM算法的有效性。4.針對漸變概念漂移的分類問題,提出了一種自適應(yīng)近鄰?fù)队熬挡钪С窒蛄繖C(jī)(Adaptive Neighbor Projection Mean Discrepancy Support Vector Machine,NMD-SVM)算法。該算法引入再生核Hilbert空間中近鄰?fù)队熬挡钭鳛橄噜彿诸惼鏖g差異的度量,在全局優(yōu)化中融入了數(shù)據(jù)自身的分布特征,提高了算法的適應(yīng)性。實(shí)驗(yàn)結(jié)果表明了NMD-SVM算法的有效性。5.特征選擇也是模式識別和機(jī)器學(xué)習(xí)里一個(gè)重要研究領(lǐng)域,但現(xiàn)有的很多特征選擇方法過分依賴特征加權(quán)且優(yōu)化參數(shù)較多。針對這個(gè)問題,本文基于平方誤差標(biāo)準(zhǔn)(ISE)核密度估計(jì)和隨機(jī)置換理論,從特征空間存在單一和協(xié)同特征的現(xiàn)象出發(fā),提出了一種單一特征的特征選擇方法(FSKDE-RP)。以此為基礎(chǔ),通過拓展隨機(jī)置換理論使之適合協(xié)同特征的場景,提出了多維協(xié)同特征選擇算法(SFSKDE-MRP)對特征進(jìn)行排序,最后利用KNN分類器的分類精度選擇最優(yōu)特征子集。實(shí)驗(yàn)結(jié)果表明了FSKDE-RP和SFSKDE-MRP算法的有效性。
[Abstract]:The migration learning method is a new kind of machine learning framework , which relaxes the requirement of training data and test data and distribution hypothesis , and can help the learning of target task by using the data of different fields . 鍦ㄥ崗鍚岀害鏉熺殑鍩虹涓，

本文編號：1933151