本文選題：連續(xù)語音識別 + 深層神經(jīng)網(wǎng)絡�。� 參考：《數(shù)據(jù)采集與處理》2017年05期

【摘要】：作為一種基于深層神經(jīng)網(wǎng)絡提取的低維特征,瓶頸特征在連續(xù)語音識別中取得了很大的成功。然而訓練瓶頸結構的深層神經(jīng)網(wǎng)絡時,瓶頸層的存在會降低網(wǎng)絡輸出層的幀準確率,進而反過來影響該特征的性能。針對這一問題,本文基于非負矩陣分解算法,提出一種利用不包含瓶頸層的深層神經(jīng)網(wǎng)絡提取低維特征的方法。該方法利用半非負矩陣分解和凸非負矩陣分解算法對隱含層權值矩陣分解得到基矩陣,將其作為新的特征層權值矩陣,然后在該層不設置偏移向量的情況下,通過數(shù)據(jù)前向傳播提取新型特征。實驗表明,該特征具有較為穩(wěn)定的規(guī)律,且適用于不同的識別任務和網(wǎng)絡結構。當使用訓練數(shù)據(jù)充足的語料進行實驗時,該特征表現(xiàn)出同瓶頸特征幾乎相同的識別性能;而在低資源環(huán)境下,基于該特征識別系統(tǒng)的識別率明顯優(yōu)于深層神經(jīng)網(wǎng)絡混合識別系統(tǒng)和瓶頸特征識別系統(tǒng)。
[Abstract]:As a low-dimensional feature based on deep neural network, bottleneck feature has been successfully used in continuous speech recognition. However, when training the deep neural network with the bottleneck structure, the existence of the bottleneck layer will reduce the frame accuracy of the network output layer, which in turn will affect the performance of the feature. In order to solve this problem, based on the non-negative matrix decomposition algorithm, this paper proposes a method to extract low-dimensional features by using deep-seated neural networks without bottleneck layer. The method uses semi-nonnegative matrix decomposition and convex non-negative matrix decomposition algorithm to decompose the hidden layer weight matrix to obtain the base matrix, which is regarded as a new characteristic layer weight matrix. New features are extracted by data forward propagation. The experimental results show that this feature has relatively stable rules and is suitable for different recognition tasks and network structures. When experimenting with language data with sufficient training data, the feature exhibits almost the same recognition performance as the bottleneck feature, while in low-resource environments, the performance of the feature is similar to that of the bottleneck feature. The recognition rate of the system based on this feature is obviously better than that of the hybrid recognition system based on deep neural network and the bottleneck feature recognition system.
【作者單位】： 解放軍信息工程大學信息系統(tǒng)工程學院;
【基金】：國家自然科學基金(61175017,61403415)資助項目
【分類號】：TN912.34;TP183

【相似文獻】

相關期刊論文 前10條

1 姜偉;李宏;余震國;楊炳儒;;稀疏約束圖正則非負矩陣分解[J];計算機科學;2013年01期

2 靳慶貴;梁國龍;;非負矩陣分解的分層最小二乘快速算法研究[J];計算機仿真;2012年11期

3 李兵;徐榕;賈春寧;郭清晨;;基于自適應形態(tài)提升小波與改進非負矩陣分解的發(fā)動機故障診斷方法[J];兵工學報;2013年03期

4 孫健;張雄偉;曹鐵勇;楊吉斌;孫新建;;基于卷積非負矩陣分解的語音轉換方法[J];數(shù)據(jù)采集與處理;2013年02期

5 李宏坤;陳禹臻;張志新;周帥;;基于非負矩陣分解與主元分析的時頻圖像識別方法研究[J];振動與沖擊;2012年18期

6 仵博;吳敏;;基于廣義逆非負矩陣分解的無線傳感器網(wǎng)絡節(jié)能通信[J];中南大學學報(自然科學版);2013年04期

7 許然;李亞超;邢孟道;;利用稀疏非負矩陣分解的大轉角SAR成像方法[J];西安電子科技大學學報;2014年03期

8 高茜;李廣俠;胡婧;;基于非負矩陣分解的IP流量預測[J];計算機科學;2012年01期

9 龍泓琳;皮亦鳴;曹宗杰;;基于非負矩陣分解的SAR圖像目標識別[J];電子學報;2010年06期

10 鄧曉政;焦李成;盧山;;基于非負矩陣分解的譜聚類集成SAR圖像分割[J];電子學報;2011年12期

相關會議論文 前4條

1 徐利民;龔珊;余再軍;;奇異值分解與非負矩陣分解色在數(shù)據(jù)降維方面的特性分析[A];2010年通信理論與信號處理學術年會論文集[C];2010年

2 蔣霈霖;;KL散度下的非負矩陣分解[A];中國自動化學會中南六�。▍^(qū)）2010年第28屆年會·論文集[C];2010年

3 錢樂樂;高雋;徐小紅;;非負性約束的圖像稀疏編碼[A];第七屆全國信息獲取與處理學術會議論文集[C];2009年

4 鄭能恒;蔡毅;李霞;Tan Lee;;基于非負矩陣分解和向量相似測度的語音與音樂分離算法[A];第十一屆全國人機語音通訊學術會議論文集（一）[C];2011年

相關碩士學位論文 前8條

1 王丹;基于非負矩陣分解的腦電信號特征提取算法研究[D];燕山大學;2015年

2 師萌;基于非負矩陣分解的SAR圖像目標配置識別[D];西安電子科技大學;2014年

3 張倩敏;非負矩陣分解算法及在語音轉換中的應用[D];安徽大學;2016年

4 陳靜;鋼琴音樂的多基頻估計研究[D];電子科技大學;2016年

5 Ullah Rizwan;語音信號中敲擊按鍵聲音的檢測和抑制[D];中國科學技術大學;2017年

6 孔令城;基于非負矩陣分解的音頻事件檢測研究[D];華南理工大學;2014年

7 張敏;基于非負矩陣分解的腦電信號特征提取[D];燕山大學;2014年

8 寧麗娜;通信信號調(diào)制體制識別算法研究[D];北京郵電大學;2014年

，

本文編號：1993852