發(fā)布時間：2018-03-20 11:58

  本文選題：受限玻爾茲曼機　切入點：背景建模　出處：《中國科學(xué)技術(shù)大學(xué)》2016年碩士論文　論文類型：學(xué)位論文

【摘要】：背景建模和文本建模分別是計算機視覺和自然語言處理兩個人工智能領(lǐng)域關(guān)注的重點基礎(chǔ)問題。這兩個方向都是現(xiàn)今人工智能發(fā)展的前沿。背景建模旨在為視頻序列生成一組穩(wěn)定的背景,是前景檢測、視頻監(jiān)控等應(yīng)用的基礎(chǔ)。傳統(tǒng)的背景建模模型往往關(guān)注局部信息的利用,而實際上,在真實的復(fù)雜視頻中,全局信息變化廣泛存在,大到光照變化,小到物體陰影都隨著時間發(fā)生變化。因此本文利用受限玻爾茲曼機針對全局信息進行建模,針對視頻中相鄰的兩幀圖片學(xué)習(xí)到視頻的背景,并且設(shè)計了一種自適應(yīng)的正則化項,能夠強迫模型生成的背景保持穩(wěn)定,也就使得模型能夠準確找到背景信息。這是首次有科研工作將受限玻爾茲曼機應(yīng)用于背景建模任務(wù)中。文本建模關(guān)注的是從文本中提取有用的信息,是自然語言處理領(lǐng)域的最常見的一類基礎(chǔ)任務(wù)。本文關(guān)注的是近年來備受學(xué)術(shù)界關(guān)注的詞向量模型工具包word2vec。目前,針對word2vec工具的解釋尚缺嚴謹和充分的研究。由受限的玻爾茲曼機啟發(fā),本文設(shè)計了一種基于矩陣分解的模型——顯式矩陣分解(EMF),并且從理論上證明了它與word2vec中的Skip-Gram Negative Sampling (SGNS)模型無條件等價,提出的模型相比于其他針對SGNS的解釋工作有更好的解釋性。此外,本文還從EMF模型的角度擴展出了一種有監(jiān)督模型,能夠結(jié)合單詞類比數(shù)據(jù),大大提高詞向量在單詞類比任務(wù)上的性能。
[Abstract]:Background modeling and text modeling are two important basic issues in the field of computer vision and natural language processing, respectively. These two directions are the frontier of the development of artificial intelligence. Background modeling is aimed at video. Sequence generates a stable set of backgrounds, Traditional background modeling models often focus on the use of local information, but in fact, in real complex video, global information changes widely exist, ranging from light changes. In this paper, the constrained Boltzmann machine is used to model the global information, and the background of the video is learned from the two adjacent frames of the video, and an adaptive regularization term is designed. The background that can force the generation of the model to remain stable, This is the first time that a limited Boltzmann machine has been applied to a background modeling task. Text modeling focuses on extracting useful information from text. Is the most common basic task in the field of natural language processing. This paper focuses on the word vector model toolkit word2vec. which has attracted much attention in recent years. The interpretation of the word2vec tool is not yet rigorous and adequate. Inspired by the restricted Boltzmann machine, In this paper, we design an explicit matrix factorization model based on matrix factorization, and prove that it is unconditionally equivalent to the Skip-Gram Negative Sampling model in word2vec. The proposed model is more explanatory than other interpretations of SGNS. In addition, this paper extends a supervised model from the perspective of EMF model, which can combine word analogy data. The performance of word vector in word analogy task is greatly improved.
【學(xué)位授予單位】：中國科學(xué)技術(shù)大學(xué)
【學(xué)位級別】：碩士
【學(xué)位授予年份】：2016
【分類號】：TP391.41

【相似文獻】

相關(guān)期刊論文 前3條

1 劉來福，，唐志宇，匡錦瑜;向量玻爾茲曼機[J];北京師范大學(xué)學(xué)報(自然科學(xué)版);1996年04期

2 秦勝君;盧志平;;基于限制玻爾茲曼機的無極性標注情感分類研究[J];科學(xué)技術(shù)與工程;2013年35期

3 ;[J];;年期

相關(guān)碩士學(xué)位論文 前9條

1 李娟;基于RBM的小分子活性及選擇性研究[D];蘭州大學(xué);2015年

2 葉睿;基于深度學(xué)習(xí)的人臉檢測方法研究[D];哈爾濱工業(yè)大學(xué);2015年

3 張衛(wèi)東;深度信念網(wǎng)絡(luò)及其在手寫字體識別中的應(yīng)用[D];成都理工大學(xué);2015年

4 施維劏;門限玻爾茲曼機在人臉識別中的魯棒性研究[D];北京交通大學(xué);2015年

5 萬程;自適應(yīng)基數(shù)受限玻爾茲曼機[D];清華大學(xué);2015年

6 李亦錟;受限的玻爾茲曼機在背景建模和文本建模中的研究與應(yīng)用[D];中國科學(xué)技術(shù)大學(xué);2016年

7 王海麟;通過信息幾何方法挖掘玻爾茲曼機的不變性[D];天津大學(xué);2014年

8 仝少敏;基于受限玻爾茲曼機的面部運動識別方法研究[D];哈爾濱工業(yè)大學(xué);2014年

9 李平;監(jiān)督概率主題模型研究[D];安徽工業(yè)大學(xué);2014年

本文編號：1638978