本文關鍵詞：構造型神經網(wǎng)絡綜述，由筆耕文化傳播整理發(fā)布。

構造型神經網(wǎng)絡綜述

５０

模式識別與人工智能

２１卷

生，在國內外產生一定影響．

構造型神經網(wǎng)絡是張鈸和張鈴，從Ｍ—Ｐ神經元模型的幾何意義［２３出發(fā)，于１９９８年提出的，它的核心是覆蓋算法．稱其為構造型神經網(wǎng)絡，是相對于傳統(tǒng)的神經網(wǎng)絡結構而言的．以多層感知器的網(wǎng)絡結構為例，整個網(wǎng)絡是一個密不可分的整體，各神經元間的功能、所要學習和處理的數(shù)據(jù)彼此相同或相似，并且網(wǎng)絡基本功能就是建立從輸入到輸出的映射，無法或很難劃分出輸入到輸出間逐步轉化的過程．構造型神經網(wǎng)絡可以分層逐步構造，網(wǎng)絡的基本功能劃分成若干獨立的功能模塊．該網(wǎng)絡在對給定具體的數(shù)據(jù)處理過程中，同時給出網(wǎng)絡的結構和參數(shù)．該算法以覆蓋算法為基礎，經一次非線性變換，構造“球形領域”，將學習問題轉化為覆蓋問題，計算量小，適合大規(guī)模模式分類［３］．因此，在許多領域得到廣泛地應用．目前它成功實現(xiàn)了手寫漢字識別［３］、圖像檢索［４］、通信信號分類和識別［５喃］、股票行情預測口］、計算機入侵行為檢測［８］、無線電監(jiān)測數(shù)據(jù)的挖掘Ｌ９３等方面．

．，

類獨立的訓練樣本投影到高一維的超球面上，形成不同覆蓋的球形領域．每個球形領域對應一個神經元，球形領域的中心代表對應神經元的權重，半徑代表閾值，由此構造神經網(wǎng)絡隱含層．再將同類樣本對應的球形領域合并，構成神經網(wǎng)絡輸出層，可實現(xiàn)對測試樣本的分類，詳細過程參照文獻Ｅｅ３．

為什么將樣本投影到球面后，可將原來非常復雜的神經網(wǎng)絡學習問題，轉換成一個非常直觀的覆蓋問題．下面我們從劃分區(qū)域和劃分邊界對這兩種不同的幾何表示進行分析．

１）從劃分區(qū)域進行比較．超平面模型將空間分成兩個無窮大的半空間，而球形領域將球面劃分成兩個有限大的領域．這種“局部化”的效果將學習問題大大簡化．因為一個超平面模型將空間劃分成兩個無窮大的半空間，起個超平面就將空間劃分成最多可達Ｏ（２”）個不同的連通區(qū)域，而且這些區(qū)域的構成很難從直觀上給出明確分析．而神經網(wǎng)絡的學習問題就是利用神經元網(wǎng)絡，將樣本分割開來使各連通區(qū)域中只包含同類的樣本．因為由靠個超平面劃分的連通區(qū)非常復雜，無法從直觀上給出理解，故由它構成的網(wǎng)絡也就很難從直觀上給出學習的方法．反之，，球形領域的模型，所劃分的連通區(qū)域是有限的區(qū)域，當給定靠個神經元時，其對應的領域，只要適當選取半徑，可以使各領域互不相交．由上面所述神經網(wǎng)絡的學習問題相當于利用神經網(wǎng)絡將空間劃分成若干連通區(qū)域，并使每個連通區(qū)域只包含同類樣本．于是球形領域的模型使神經網(wǎng)絡的學習問題變?yōu)橐粋�非常直觀的求覆蓋問題．

２）從劃分邊界進行比較．超平面模型的劃分邊界是超平面（線性），而球形領域的劃分邊界是超球面（二次曲面）．從理論上說，次數(shù)越高的曲面其逼近能力越強，故二次曲面的逼近能力比一次曲面強．這也是覆蓋算法比其它算法劃分能力強的一個原因．球形領域的邊界是二次曲面，這是否增加計算量？仔細分析我們可以看到球形領域的模型在本質上并沒有增加計算量，因為其主要計算仍舊是Ｙ＝ｓｇｎ（＜銣，ｚ＞一口）中內積，而內積計算是線性的．我們進一步要問，為什么利用線性的計算能得出二次的邊界？這是因為我們計算的定義域是二次曲面（超球面），而在二次曲面（定義域）上的一次計算等價于在平面空間（定義域）上的二次計算．這樣通過投影到球面上的操作，使我們利用一次計算能完成二次邊界的劃分，從而提高劃分的逼近能力，這也是覆蓋算法的優(yōu)點之一

ｚ

近年來，隨著網(wǎng)絡在許多領域展開應用，算法上也得到許多改進．本文簡介其基本原理，分析其性能，比較其他神經網(wǎng)絡，介紹一些改進的措施和研究現(xiàn)狀，分析其應用價值．

２構造型神經網(wǎng)絡分析

Ｍ—Ｐ模型是將神經元看成是１個有，２個輸入，１個輸出的元件，其輸出函數(shù)為Ｙ＝ｓｇｎ（（叫，ｚ＞一口），其中＜鋤，ｚ＞一０—０表示ｎ維空間中的一個超平面，

于是神經元就是一個空間劃分器．當（耽一口）＞０

時，表示點ｚ落在超平面的正半空間內，此時，Ｙ＝

１；當（Ｖ％一日）＜０時，表示點ｚ落在Ｐ的負半空間

內，此時，Ｙ一一１．這就是Ｍ—Ｐ神經元超平面的幾何

意義．

若將樣本均投影到一個半徑為尺的超球面上［２］，神經元模型仍為Ｙ—ｓｇｎ（（叫，ｚ＞一日），且Ｉ的點，恰好是落在以Ｗ為中心（這里設Ｉ

—Ｒ．于是落在平面的正半空間，同時又在超球面上

ＷＩ＝Ｒ）以

ｒ（口）＝￣／Ｒ２一儼為半徑的球形領域內．將樣本投影到球面上，得出Ｍ—Ｐ神經元新的幾何意義，也就是球形領域幾何意義：神經元的功能函數(shù)恰好表示球面上的一個球形領域的特征函數(shù)．利用這個幾何意義，我們提出了一個新的學習方法：覆蓋算法［２］．

在構造此算法分類時，充分運用先驗知識，將各

  本文關鍵詞：構造型神經網(wǎng)絡綜述，由筆耕文化傳播整理發(fā)布。