基于注意力機(jī)制的特征選擇:一種面向海量復(fù)雜數(shù)據(jù)的高效架構(gòu)
發(fā)布時(shí)間:2022-02-17 09:59
特征選擇技術(shù)作為數(shù)據(jù)挖掘領(lǐng)域的重要研究方向,通過從原始特征集合中選取一組最有用的特征子集,具有諸多作用:有效解決“維數(shù)災(zāi)難”,降低模型的復(fù)雜度;使數(shù)據(jù)變得更易理解,有助于數(shù)據(jù)分析。然而,隨著信息技術(shù)的迅猛發(fā)展,數(shù)據(jù)的獲取變得越來越容易,這也使得特征選擇所面對(duì)的數(shù)據(jù)形式發(fā)生了巨大的變化:樣本規(guī)模日益增大,特征維度急劇膨脹,數(shù)據(jù)內(nèi)部結(jié)構(gòu)日趨復(fù)雜,F(xiàn)有的特征選擇方法不管是從計(jì)算模式還是從技術(shù)方法的設(shè)計(jì)上來說都難以較好地應(yīng)對(duì)這些變化,存在著很多缺陷。因此,如何面向海量復(fù)雜的數(shù)據(jù)進(jìn)行高效的特征選擇成為一個(gè)具有重要研究意義的課題;谏疃葘W(xué)習(xí)的特征選擇研究是目前特征選擇技術(shù)的前沿研究領(lǐng)域,被認(rèn)為具有處理海量數(shù)據(jù)的能力,可以有效應(yīng)對(duì)大數(shù)據(jù)下的特征選擇。然而,目前該領(lǐng)域的研究工作目前還難以應(yīng)對(duì)復(fù)雜數(shù)據(jù)下的特征選擇:當(dāng)數(shù)據(jù)發(fā)生復(fù)雜變化時(shí)(比如添加噪聲干擾、標(biāo)注樣本急劇減少、樣本特征為時(shí)序結(jié)構(gòu)等),目前特征選擇方法的性能往往不穩(wěn)定甚至失效。本文從一個(gè)全新的角度來考慮特征選擇機(jī)制,在結(jié)合深度學(xué)習(xí)技術(shù)的基礎(chǔ)之上,提出了一個(gè)全新的基于注意力模型的特征選擇架構(gòu)。具體的研究工作如下:1)針對(duì)特征選擇在大樣本數(shù)據(jù)中難...
【文章來源】:浙江理工大學(xué)浙江省
【文章頁數(shù)】:55 頁
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
Abstract
第一章 緒論
1.1 選題背景
1.2 特征選擇綜述
1.2.1 經(jīng)典特征選擇技術(shù)
1.2.2 特征選擇技術(shù)發(fā)展前沿
1.3 本文主要研究工作及創(chuàng)新點(diǎn)
1.4 論文結(jié)構(gòu)和章節(jié)內(nèi)容
第二章 相關(guān)知識(shí)
2.1 前言
2.2 機(jī)器學(xué)習(xí)模型概述
2.3 神經(jīng)網(wǎng)絡(luò)概述
2.4 注意力機(jī)制概述
2.5 小結(jié)
第三章 基于注意力機(jī)制的特征選擇架構(gòu)
3.1 前言
3.2 AFS
3.2.1 結(jié)構(gòu)設(shè)計(jì)
3.2.2 注意模塊
3.2.3 學(xué)習(xí)模塊
3.3 實(shí)驗(yàn)結(jié)果及分析
3.3.1 實(shí)驗(yàn)設(shè)置
3.3.2 分類器選擇
3.3.3 建模準(zhǔn)確率分析
3.3.4 計(jì)算復(fù)雜度分析
3.4 小結(jié)
第四章 基于混合策略的AFS方法
4.1 前言
4.2 混合策略
4.3 實(shí)驗(yàn)結(jié)果及分析
4.3.1 實(shí)驗(yàn)設(shè)置
4.3.2 建模準(zhǔn)確度分析
4.4 小結(jié)
第五章 基于多層注意力模型的AFS方法
5.1 前言
5.2 多層注意力模型
5.3 實(shí)驗(yàn)結(jié)果及分析
5.3.1 數(shù)據(jù)準(zhǔn)備
5.3.2 性能分析
5.3.3 特征權(quán)重可視化分析
5.4 小結(jié)
第六章 結(jié)論與展望
6.1 結(jié)論
6.2 下一步工作與展望
參考文獻(xiàn)
在讀碩士期間取得的科研成果
致謝
【參考文獻(xiàn)】:
期刊論文
[1]數(shù)據(jù)挖掘技術(shù)的綜述[J]. 王雅軒,頊聰. 電子技術(shù)與軟件工程. 2015(08)
博士論文
[1]高維問題中的小樣本學(xué)習(xí)[D]. 陶大鵬.華南理工大學(xué) 2014
本文編號(hào):3629232
【文章來源】:浙江理工大學(xué)浙江省
【文章頁數(shù)】:55 頁
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
Abstract
第一章 緒論
1.1 選題背景
1.2 特征選擇綜述
1.2.1 經(jīng)典特征選擇技術(shù)
1.2.2 特征選擇技術(shù)發(fā)展前沿
1.3 本文主要研究工作及創(chuàng)新點(diǎn)
1.4 論文結(jié)構(gòu)和章節(jié)內(nèi)容
第二章 相關(guān)知識(shí)
2.1 前言
2.2 機(jī)器學(xué)習(xí)模型概述
2.3 神經(jīng)網(wǎng)絡(luò)概述
2.4 注意力機(jī)制概述
2.5 小結(jié)
第三章 基于注意力機(jī)制的特征選擇架構(gòu)
3.1 前言
3.2 AFS
3.2.1 結(jié)構(gòu)設(shè)計(jì)
3.2.2 注意模塊
3.2.3 學(xué)習(xí)模塊
3.3 實(shí)驗(yàn)結(jié)果及分析
3.3.1 實(shí)驗(yàn)設(shè)置
3.3.2 分類器選擇
3.3.3 建模準(zhǔn)確率分析
3.3.4 計(jì)算復(fù)雜度分析
3.4 小結(jié)
第四章 基于混合策略的AFS方法
4.1 前言
4.2 混合策略
4.3 實(shí)驗(yàn)結(jié)果及分析
4.3.1 實(shí)驗(yàn)設(shè)置
4.3.2 建模準(zhǔn)確度分析
4.4 小結(jié)
第五章 基于多層注意力模型的AFS方法
5.1 前言
5.2 多層注意力模型
5.3 實(shí)驗(yàn)結(jié)果及分析
5.3.1 數(shù)據(jù)準(zhǔn)備
5.3.2 性能分析
5.3.3 特征權(quán)重可視化分析
5.4 小結(jié)
第六章 結(jié)論與展望
6.1 結(jié)論
6.2 下一步工作與展望
參考文獻(xiàn)
在讀碩士期間取得的科研成果
致謝
【參考文獻(xiàn)】:
期刊論文
[1]數(shù)據(jù)挖掘技術(shù)的綜述[J]. 王雅軒,頊聰. 電子技術(shù)與軟件工程. 2015(08)
博士論文
[1]高維問題中的小樣本學(xué)習(xí)[D]. 陶大鵬.華南理工大學(xué) 2014
本文編號(hào):3629232
本文鏈接:http://sikaile.net/kejilunwen/ruanjiangongchenglunwen/3629232.html
最近更新
教材專著