領域知識指導的模型重用
本文選題:機器學習 + 模型重用 ; 參考:《中國科學:信息科學》2017年11期
【摘要】:機器學習模型的生命周期通常比較短暫,大量的機器學習模型針對特定任務設計,在完成任務之后即失去使用價值.然而,一個精心設計和訓練的模型通常更精煉地概括了訓練數據中蘊含的知識.更進一步地,當無法獲取原始訓練數據時,已有的預訓練模型就是僅剩的信息來源.本文提出了一種重用已有的預訓練機器學習模型來輔助當前任務學習的框架,尤其適用于當前任務數據量不足的情形.該方法把已有模型視為黑盒,不需要已有模型的結構信息,并使用領域知識對已有模型進行篩選和結合.實驗表明,在該框架下,通過對已有模型的重用,多個實際任務上的性能可以得到顯著提升.
[Abstract]:The life cycle of machine learning models is usually short. A large number of machine learning models are designed for specific tasks and lose use value after completing tasks. However, a carefully designed and trained model usually more succinctly generalizes the knowledge contained in the training data. Furthermore, when the original training data cannot be obtained, the existing pretraining model is the only source of information. In this paper, a framework for reusing existing pre-training machine learning models to assist current task learning is proposed, which is especially suitable for the situation where the current task data is insufficient. This method treats the existing model as a black box and does not need the structural information of the existing model, and uses domain knowledge to filter and combine the existing model. The experimental results show that the performance of several practical tasks can be significantly improved by reusing the existing models in this framework.
【作者單位】: 南京大學計算機軟件新技術國家重點實驗室;
【基金】:國家自然科學基金(批準號:61333014)資助項目
【分類號】:TP181
【相似文獻】
相關期刊論文 前10條
1 樂承毅;代風;吉祥;潘凱;顧新建;彭本紅;;基于流程驅動的領域知識主動推送研究[J];計算機集成制造系統(tǒng);2010年12期
2 閔羅禮;張銓;;控制領域知識的分類和表達[J];黑龍江自動化技術與應用;1988年04期
3 潘潔珠;吳共慶;胡學鋼;張潤梅;;基于領域知識的預警規(guī)則發(fā)現研究[J];計算機技術與發(fā)展;2008年07期
4 莫富強;王浩;姚宏亮;俞奎;;基于領域知識的貝葉斯網絡結構學習算法[J];計算機工程與應用;2008年16期
5 柴嘯龍;;領域知識優(yōu)化的蟻群規(guī)劃算法[J];計算機工程與應用;2010年14期
6 劉曙光;曾雋芳;李小兵;;基于概念網絡的領域知識組織及應用[J];計算機工程;2006年07期
7 胡文彬;張宏;李千目;;不確定模式集成中領域知識應用模型的研究[J];計算機工程與應用;2010年32期
8 吳強,宋益大;基于本體的領域知識表示和信息檢索的方法研究[J];紹興文理學院學報;2005年02期
9 張丙奇;基于領域知識的個性化推薦算法研究[J];計算機工程;2005年21期
10 邊文鈺;包振強;周磊;王超;;基于本體的科研領域知識管理建模研究[J];計算機應用研究;2007年08期
相關會議論文 前10條
1 黃安強;張玲玲;陳全;王曉;;用于支撐智能知識發(fā)現的領域知識的表示和提取研究[A];第四屆(2009)中國管理學年會——管理科學與工程分會場論文集[C];2009年
2 陳戰(zhàn)偉;李晉宏;;領域知識在知識發(fā)現過程中的使用[A];2007通信理論與技術新發(fā)展——第十二屆全國青年通信學術會議論文集(上冊)[C];2007年
3 繆建明;吳晨;郝惠寧;張全;;一種基于HNC理論的領域知識表示研究[A];第三屆學生計算語言學研討會論文集[C];2006年
4 王玨;;歸納機器學習[A];2001年中國智能自動化會議論文集(上冊)[C];2001年
5 吳滄浦;;智能系統(tǒng)與機器學習的新領域[A];西部大開發(fā) 科教先行與可持續(xù)發(fā)展——中國科協(xié)2000年學術年會文集[C];2000年
6 周晴杰;徐立鴻;吳啟迪;;機器學習串級結構的初步探討[A];1998年中國控制會議論文集[C];1998年
7 李剛;郭崇慧;林鴻飛;楊志豪;唐煥文;;基于詞典法和機器學習法相結合的蛋白質名識別[A];大連理工大學生物醫(yī)學工程學術論文集(第2卷)[C];2005年
8 蔡健平;林世平;;基于機器學習的詞語和句子極性分析[A];第三屆全國信息檢索與內容安全學術會議論文集[C];2007年
9 黃金鐵;李景銀;周建常;;對高爐爐況評價模型參數的機器學習——一個三類線性模式分類器的實現[A];1995中國控制與決策學術年會論文集[C];1995年
10 程國建;蔡磊;潘華賢;;核向量機在大規(guī)模機器學習中的應用[A];第十一屆中國青年信息與管理學者大會論文集[C];2009年
相關重要報紙文章 前3條
1 IBM大數據專家 James Kobielus 范范 編譯;機器學習已成為大數據基石[N];網絡世界;2014年
2 本報記者 房琳琳;合久必分:分布式“機器學習”應運而生[N];科技日報;2014年
3 雨辰;機器學習類圖書為什么火爆[N];中華讀書報;2014年
相關博士學位論文 前10條
1 李華;基于本體的應急領域知識表示與復用研究[D];天津大學;2008年
2 李衛(wèi);領域知識的獲取[D];北京郵電大學;2008年
3 楊立;基于領域知識的知識發(fā)現研究[D];中國科學院研究生院(軟件研究所);2005年
4 董春茹;機器學習中的權重學習與差分演化[D];華南理工大學;2015年
5 姚明臣;機器學習和神經網絡學習中的若干問題研究[D];大連理工大學;2016年
6 杜宇;基于深度機器學習的體態(tài)與手勢感知計算關鍵技術研究[D];浙江大學;2017年
7 鐘錦紅;群智學習若干問題研究[D];中國科學技術大學;2017年
8 趙東;基于群智能優(yōu)化的機器學習方法研究及應用[D];吉林大學;2017年
9 趙玉鵬;機器學習的哲學探索[D];大連理工大學;2010年
10 胡巍;面向格結構的機器學習[D];上海交通大學;2009年
相關碩士學位論文 前10條
1 周循;基于領域知識的面向分類的屬性泛化研究[D];合肥工業(yè)大學;2008年
2 陳戰(zhàn)偉;領域知識在輔助知識發(fā)現過程中的初始聚焦問題研究[D];北方工業(yè)大學;2008年
3 邊文鈺;基于本體的科研開發(fā)領域知識共享和重用研究[D];揚州大學;2007年
4 王曉東;面向事件處理的領域知識管理關鍵技術研究及實現[D];天津大學;2009年
5 潘暉;基于歸納學習策略的故障診斷知識學習方法[D];長春工業(yè)大學;2012年
6 陳召陽;基于機器學習的改性麥槽吸附重金屬構效關系模型研究[D];江西理工大學;2014年
7 王成;基于半監(jiān)督機器學習的文本情感分析技術[D];南京理工大學;2015年
8 孫科;基于Spark的機器學習應用框架研究與實現[D];上海交通大學;2015年
9 劉江龍;基于機器學習的射頻指紋定位方法研究[D];電子科技大學;2015年
10 張蕾;基于機器學習的網絡輿情采集技術研究與設計[D];電子科技大學;2014年
,本文編號:1824835
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/1824835.html