社會(huì)的快速進(jìn)步極大地激發(fā)了智能技術(shù)的創(chuàng)新發(fā)展。圖像特征提取技術(shù)和文本自動(dòng)生成技術(shù)都受到學(xué)術(shù)界的極大關(guān)注。近年來(lái)交叉學(xué)科和跨領(lǐng)域的研究受到巨大的青睞,尤其是融合圖像和文本的深度學(xué)習(xí)研究,即圖像描述生成技術(shù)。它是一個(gè)涉及自然語(yǔ)言處理和計(jì)算機(jī)視覺(jué)的綜合性研究問(wèn)題。本文詳細(xì)介紹了圖像描述生成技術(shù)的研究背景、國(guó)內(nèi)外研究現(xiàn)狀。并從多個(gè)角度和方向?qū)ΤＳ玫膱D像描述生成模型進(jìn)行了分析研究。具體研究?jī)?nèi)容如下:（1）針對(duì)圖像描述的廣度和非相關(guān)性問(wèn)題,設(shè)計(jì)了一種基于多級(jí)注意力的細(xì)粒度圖像描述生成方法,以增強(qiáng)特定區(qū)域的圖像描述。首先,利用視覺(jué)注意力機(jī)制融合圖像全局和局部的細(xì)粒度特征。其次,利用聯(lián)合注意力機(jī)制融合圖像的視覺(jué)特征和標(biāo)簽特征,生成圖像特定區(qū)域的描述文本。最后,使用基于注意力的長(zhǎng)時(shí)短期記憶網(wǎng)絡(luò)（LSTM）的語(yǔ)言生成模型來(lái)生成細(xì)粒度的圖像描述語(yǔ)句。實(shí)驗(yàn)證明,該方法能有效地提高圖像描述語(yǔ)句的針對(duì)性和準(zhǔn)確性。（2）針對(duì)以往圖像描述生成模型忽略文本信息特征的問(wèn)題,設(shè)計(jì)了一種融合多角度多模態(tài)的圖像描述生成方法。首先,該模型利用全局圖像和局部圖像的特征、利用基本的編解碼模型生成圖像的第一句描述作為輸入;其次,利用句... 

【文章來(lái)源】：齊魯工業(yè)大學(xué)山東省

【文章頁(yè)數(shù)】：79 頁(yè)

【學(xué)位級(jí)別】：碩士

【部分圖文】：

神經(jīng)網(wǎng)絡(luò)圖

第2章相關(guān)技術(shù)研究10首先，先簡(jiǎn)要地介紹一下常用神經(jīng)網(wǎng)絡(luò)中單個(gè)神經(jīng)元的工作原理，如下圖2.1所示：圖2.1神經(jīng)元結(jié)構(gòu)示例其中jx為單個(gè)神經(jīng)元的輸入，ijw為鏈接權(quán)重，b為偏置，f為激勵(lì)函數(shù)，iy為神經(jīng)元的輸出，則計(jì)算公式可表示為：Njjijibxwfy1(2.1)通過(guò)單個(gè)神經(jīng)元的信息處理過(guò)程，可以推出多個(gè)神經(jīng)元甚至神經(jīng)網(wǎng)絡(luò)模型的信息處理過(guò)程。神經(jīng)網(wǎng)絡(luò)模型的構(gòu)建是通過(guò)多個(gè)神經(jīng)元的組合而連接的。當(dāng)神經(jīng)網(wǎng)絡(luò)的模型建立后，可選擇某種學(xué)習(xí)方法根據(jù)神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)來(lái)完成訓(xùn)練。根據(jù)神經(jīng)網(wǎng)絡(luò)的發(fā)展進(jìn)程，有相關(guān)學(xué)者提出反向傳播算法（BackPropragation，BP）。在處理小規(guī)模數(shù)據(jù)集中，它是神經(jīng)網(wǎng)絡(luò)中最有效、最常用的算法之一。Paulwerbos在1974年[36]最早提出BP算法，直到20世紀(jì)80年代中期Rumelhart[37]、Hinton等人重新發(fā)現(xiàn)了BP算法的優(yōu)點(diǎn)，才得到了廣泛的應(yīng)用，并為人們所熟知。BP算法以往被廣泛應(yīng)用在各個(gè)領(lǐng)域，是當(dāng)時(shí)最流行的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法。圖2.2神經(jīng)網(wǎng)絡(luò)圖

第2章相關(guān)技術(shù)研究12nnjjbC(2.9)然后設(shè)置學(xué)習(xí)率更新參數(shù)，公式如下：njmnjmjwCwwnm(2.10)njnjnjbCbb(2.11)BP神經(jīng)網(wǎng)絡(luò)算法的計(jì)算過(guò)程如圖2.3所示：圖2.3神經(jīng)網(wǎng)絡(luò)算法框圖雖然BP神經(jīng)網(wǎng)絡(luò)算法具有一定的推廣、概括能力、有很強(qiáng)的自學(xué)習(xí)能力，適合于解決內(nèi)部機(jī)制復(fù)雜的問(wèn)題。但是BP神經(jīng)網(wǎng)絡(luò)算法學(xué)習(xí)速度很慢，它要優(yōu)化的目標(biāo)函數(shù)又非常復(fù)雜，使BP算法非常低效。另外，BP神經(jīng)網(wǎng)絡(luò)算法是一種局部搜索優(yōu)化算法，極易可能陷入局部最優(yōu)，也容易出現(xiàn)過(guò)擬合現(xiàn)象，所以BP神經(jīng)網(wǎng)絡(luò)的應(yīng)用范圍和發(fā)展?jié)摿褪艿胶艽笙拗�。鑒于BP神經(jīng)網(wǎng)絡(luò)的各項(xiàng)不足，因此，卷積神經(jīng)逐漸流行起來(lái)并成為熱潮。所以鑒于卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)非常簡(jiǎn)單、局部連接、權(quán)值共享等優(yōu)勢(shì)，本課題的相關(guān)研究采用的就是由卷積神經(jīng)網(wǎng)絡(luò)經(jīng)過(guò)改進(jìn)后的各類網(wǎng)絡(luò)模型。卷積網(wǎng)絡(luò)（CNN）主要是卷積核通過(guò)卷積運(yùn)算實(shí)現(xiàn)特征向量的變換和提齲它的主要結(jié)構(gòu)包括：輸入層：輸入層的神經(jīng)元主要是處理輸入的每個(gè)像素，所以數(shù)量和輸入圖像

【參考文獻(xiàn)】：
期刊論文
[1]HDFS存儲(chǔ)和優(yōu)化技術(shù)研究綜述[J]. 金國(guó)棟,卞昊穹,陳躍國(guó),杜小勇.  軟件學(xué)報(bào). 2020(01)
[2]基于多注意力多尺度特征融合的圖像描述生成算法[J]. 陳龍杰,張鈺,張玉梅,吳曉軍.  計(jì)算機(jī)應(yīng)用. 2019(02)
[3]云計(jì)算中Hadoop技術(shù)研究與應(yīng)用綜述[J]. 夏靖波,韋澤鯤,付凱,陳珍.  計(jì)算機(jī)科學(xué). 2016(11)
[4]基于自動(dòng)編碼器組合的深度學(xué)習(xí)優(yōu)化方法[J]. 鄧俊鋒,張曉龍.  計(jì)算機(jī)應(yīng)用. 2016(03)
[5]近年來(lái)Hadoop國(guó)外研究綜述[J]. 王彥明,奉國(guó)和,薛云.  計(jì)算機(jī)系統(tǒng)應(yīng)用. 2013(06)
[6]基于關(guān)鍵詞的圖像標(biāo)注綜述[J]. 郭喬進(jìn),丁軼,李寧.  計(jì)算機(jī)工程與應(yīng)用. 2011(30)
[7]基于Hadoop平臺(tái)的海量文本分類的并行化[J]. 向小軍,高陽(yáng),商琳,楊育彬.  計(jì)算機(jī)科學(xué). 2011(10)

碩士論文
[1]基于多尺度卷積神經(jīng)網(wǎng)絡(luò)的圖像分類算法研究[D]. 呂朦.湖北工業(yè)大學(xué) 2019
[2]圖像描述文本自動(dòng)生成方法研究[D]. 申永飛.重慶大學(xué) 2017
[3]面向圖像描述的深度神經(jīng)網(wǎng)絡(luò)模型研究[D]. 陳強(qiáng)普.重慶大學(xué) 2017
[4]圖像標(biāo)注算法研究及其在Hadoop平臺(tái)上的實(shí)現(xiàn)[D]. 張愷.武漢理工大學(xué) 2017
[5]基于Hadoop的混合神經(jīng)網(wǎng)絡(luò)計(jì)算平臺(tái)研究與實(shí)現(xiàn)[D]. 羅練海.華南理工大學(xué) 2016
[6]基于深度學(xué)習(xí)的短信分類技術(shù)研究[D]. 王婷.長(zhǎng)安大學(xué) 2016
[7]云計(jì)算環(huán)境的數(shù)據(jù)存儲(chǔ)管控技術(shù)研究[D]. 呂培培.北方工業(yè)大學(xué) 2013
[8]新聞圖像內(nèi)容與字幕文本協(xié)同識(shí)別與檢索方法研究[D]. 康瑩瑩.哈爾濱工業(yè)大學(xué) 2012



本文編號(hào)：3508545