從給定輸入數(shù)據(jù)中提取特征是機器學(xué)習(xí)成功應(yīng)用的關(guān)鍵[8]。特征學(xué)習(xí)尋求從輸入數(shù)據(jù)到（通常是實數(shù)值的）特征向量的最優(yōu)轉(zhuǎn)換,該特征向量可以作為學(xué)習(xí)問題的輸入。常見的特征學(xué)習(xí)方法包括字典學(xué)習(xí)、維度約減、流形學(xué)習(xí)、距離度量學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等。距離度量學(xué)習(xí)作為特征學(xué)習(xí)的子領(lǐng)域,可以根據(jù)不同的任務(wù)自主學(xué)習(xí)出特定的度量距離函數(shù),進而提高基于相似度的學(xué)習(xí)器（如k近鄰）的學(xué)習(xí)能力,近年來得到廣泛關(guān)注。同時,機器學(xué)習(xí)領(lǐng)域的進展促使政府和企業(yè)將其部署在自動化系統(tǒng)中,如無人駕駛、自動交易系統(tǒng)等,這些應(yīng)用要求算法在復(fù)雜環(huán)境下對已知和未知情況都能保證魯棒性[9][10]。本文考慮了現(xiàn)實中的復(fù)雜情況,在不同情形下對距離度量學(xué)習(xí)做出以下研究:1.考慮復(fù)雜環(huán)境下樣本上可能有的噪音或擾動會改變其間的關(guān)系,影響到學(xué)得的度量矩陣,本文提出在學(xué)習(xí)度量矩陣的同時近似樣本上的噪音,得到了更魯棒的學(xué)習(xí)算法。2.針對復(fù)雜環(huán)境下物體聯(lián)系的多樣性,本文給出一種考慮樣例上多種度量關(guān)系的統(tǒng)一框架。該框架通過引入操作子靈活刻畫了樣例間的關(guān)系,不僅考慮了樣本間的空間關(guān)系度量,還表達出樣本間的語義聯(lián)系。此外,該框架還可以轉(zhuǎn)化為其他已有的度量學(xué)習(xí)算法。3... 

【文章來源】：南京大學(xué)江蘇省 211工程院校 985工程院校 教育部直屬院校

【文章頁數(shù)】：75 頁

【學(xué)位級別】：碩士

【部分圖文】：

圖２．１?ＤＲＩＦＴ方法示例

?南京大學(xué)研究生畢業(yè)論文???可以擴大類別邊界。反之，處于區(qū)域“Ａ”的樣例在類別交界處，對噪聲比較敏??感，不易處理。因此，和前面的樣例相比，如果區(qū)域“Ａ”中的樣例被選做目標(biāo)??近鄰，它們對應(yīng)的協(xié)方差應(yīng)該較小，期望距離也比較小，并且求解中其相關(guān)約束??的權(quán)重也應(yīng)該小一些。??ｖ?｜?ｘ矣別１?ｘ?Ｘ?ｘ?Ｘ類釗Ｉ?｜??ｘ?Ｉ?？奚別２１＿?ｖ??Ｘ?ｘ?＼?於?／??（ａ）人造數(shù)據(jù)集?（６）?ＤＲＩＦＴ映射??１?１?＇?ｘ?１?１?１?ｔｘｖ／?？?ｗ?ｘ?？?ｙ??Ｘ矣別ｌ｜?令｜?Ｘ類ｈｉ系??ｘ?ｘ?Ｉ?？奚別２１?＾?０?＿＾＾２?ｊ：??：釋／?：銷養(yǎng)：??（Ｃ）選擇的主要結(jié)構(gòu)?（０〇?分布的視覺效果??圖２．２人造數(shù)據(jù)集上ＤＲＩＦＴ性質(zhì)的可視化。圖⑷－⑷分別是原始樣例，映射后的??樣例，選擇的結(jié)構(gòu)和所學(xué)的分布。??２．４．２真實數(shù)據(jù)集上的結(jié)果??為了驗證ＤＲＩＦＴ方法學(xué)得的度量的分類能力，木小節(jié)在丨５個Ｋ實數(shù)據(jù)集上??通過３０次隨機實驗對比了?ＤＲＩＦＴ算法和Ｋ．他度Ｍ學(xué)法�？来螌嶒炿S機挑選??出７０％的數(shù)據(jù)作為訓(xùn)練集，余下的為測試集。參數(shù)范圍設(shè)置為丨１（Ｔ２，?１０＇．．．，?１０”。??對比的方法分為三類。第一類是常用的度Ｍ學(xué)習(xí)方法：ＬＭＮＮ＾、ｄｎｅｉ３７ｉ、??ｉｔｍｌＡ?ＧＭＭＬＷ和ＲＶＭＬｌ３％第：：：類是在訓(xùn)練過程中考慮輔助信息權(quán)重的方??法：ＭＳＬＭＮＮｆ５】、ＬＮＭＵ２３＿?ＭＳＭＵ４°］。最后－類是在距離〖卜算時考慮了噪音??影響或者數(shù)據(jù)分布的方法：ＳＧＤＤｌＷ和ＭＰＭＦＪ２｜１。丈驗屮使川？：近鄰方法分類，??１５??

?南京大學(xué)研究生畢業(yè)論文???成３個目標(biāo)近鄰和１０個異類點組成三元組集合。然后從集合中采樣２０％的三元??組，交換近鄰樣本和異類樣本的位置，將它們作為噪音數(shù)據(jù)。因為ＬＭＮＮ、??ＭＳＬＭＮＮ和ＬＮＭＬ都是從三元組信息中學(xué)習(xí)度量，本小節(jié)比較了這三種方法和??ＤＲＩＦＴｂ。ＭＳＬＭＮＮ是個多階段方法，實驗中對其每階段新產(chǎn)生的輔助信息都進??行了擾動，實驗結(jié)果如圖２．３所示。??０．５－１?０．５－１??０．４?－?－?０?４?－?Ｔ?■?＿??平?千??均?ｆ?ｒ￣?ｎ?均?ｒ￣?ｒ?一１??測…?１?Ｔ?測…?１?Ｉ??？Ｍｉｌｌ?？：ｉｎＢｉＨｉ??ｌｉＵＣＵＤ?ＬＭＮＮ?ＭＳＬＭＶＮ?ＬＮＭＬ?ＤＲＵＴ?Ｉ：ＵＣＬＩＤ?ＬＭＮＮ?ＭＳＬＭＮＮ?ＬＮＭＬ?１）Ｒ�。桑�??（ａ）?ａｕｓｔｒａｌｉａ?（ｂ）?ｃｒｅｄｉｔ??０．Ｊ０－１?０．６－??平?平“．??均?ｒｔｉ?Ｈｈ?均。４．?廠—ｉ廠—ｉ??測?壽疼：：ｉ．?測?：：：１??７尺（１．０５?．?ｒ—Ｏ．Ｊ?■?Ｖ／???ｊ??＇ＩｎｉＨｉｉ?輔?ｈｉｉ??ｌ．ｌｌＣＬｉｎ?１．ＭＮＸ?ＭＳＬＭＮＮ?ＬＮＭｌ．?ＤＲＩＩＴ?ｌ：Ｕｒｉ．ＩＤ?ＬＭＮＮ?ＭＳｌ．ＭＮＮ?Ｉ．．ＭＭＩ?ＤＲ１ＩＴ??（ｃ）?ｓｉｃｋ?（ｄ）?ｓｏｎａｒ??圖２．３在有噪音的輔助信息上的算法結(jié)果比較。算法在無噪音數(shù)據(jù)上的結(jié)果用??純色表示，在有噪音數(shù)據(jù)上增加的錯誤率用對應(yīng)顏色的陰影表示。誤差條表示??算法在有噪音數(shù)據(jù)上３０次實驗的均方誤差。??這里只給出了?４個數(shù)據(jù)集上的結(jié)果，除了上述三種和三元組相關(guān)的度量學(xué)習(xí)?


本文編號：3406417