機(jī)器學(xué)習(xí)算法的研究已經(jīng)取得了很大的進(jìn)展,并且得到了廣泛的應(yīng)用,但多數(shù)機(jī)器學(xué)習(xí)算法只能給出“是”或“不是”、“屬于”或“不屬于”這類簡(jiǎn)單的判斷,缺少一種置信度機(jī)制來說明這種判斷的可信度或可靠性有多大。置信機(jī)器就是這種帶有置信度機(jī)制的機(jī)器學(xué)習(xí)方法。置信機(jī)器是許多機(jī)器學(xué)習(xí)方法的進(jìn)一步延伸,它不僅可以像許多機(jī)器學(xué)習(xí)方法做出性能的預(yù)測(cè),還可以對(duì)預(yù)測(cè)結(jié)果中的定量的質(zhì)量度量,給出可信性(Credibility)和置信度(Confidence)。目前的置信機(jī)器學(xué)習(xí)算法的研究,往往理論基礎(chǔ)深?yuàn)W,算法復(fù)雜,可替代計(jì)算的函數(shù)很少,且不容易理解與使用。本論文主要對(duì)基于可控的置信機(jī)器學(xué)習(xí)方法進(jìn)行研究,以便找出更簡(jiǎn)單、更高效、更可靠、更實(shí)用的可控置信機(jī)器學(xué)習(xí)方法,主要的研究?jī)?nèi)容如下:首先對(duì)置信機(jī)器問題的提出、置信度等問題進(jìn)行了論述。將置信度機(jī)制分為采用整體平均置信度學(xué)習(xí)方法的置信度機(jī)制、貝葉斯學(xué)習(xí)方法的置信度機(jī)制、直推式學(xué)習(xí)方法的置信度機(jī)制、帶有拒絕選項(xiàng)學(xué)習(xí)方法的置信度機(jī)制。本學(xué)位論文的所有研究就是基于第四種置信度機(jī)制,即帶有拒絕選項(xiàng)學(xué)習(xí)方法的置信度機(jī)制來實(shí)現(xiàn)的。針對(duì)二元置信分類問題,提出了一種基于一類分類器的二元置信分類(Tow Class Confidence Classification Based on One Class Classifier,TCCC-OCC)算法。該算法通過對(duì)識(shí)別樣本進(jìn)行兩次學(xué)習(xí)的結(jié)果進(jìn)行計(jì)算與分析,實(shí)現(xiàn)了接受域和拒絕域的劃分,從而省略了在傳統(tǒng)的置信機(jī)器學(xué)習(xí)中必須為每個(gè)未知樣例進(jìn)行具體置信度的計(jì)算,也省略了設(shè)置拒絕域閾值,減少了計(jì)算量。同時(shí)運(yùn)用集成學(xué)習(xí)的方法,對(duì)學(xué)習(xí)結(jié)果進(jìn)行多層學(xué)習(xí),進(jìn)一步提升了識(shí)別率。對(duì)可控率的置信問題進(jìn)行了研究,提出了一種基于二元分類器的可控置信分類(Controllable Confidence Classification Based on Tow Class Classification,CCC-TCC)算法。該算法利用支持向量機(jī)(SVM)對(duì)樣本進(jìn)行學(xué)習(xí),然后將學(xué)習(xí)結(jié)果從空間值轉(zhuǎn)化為一維空間的Output Score值。由于SVM輸出值Output Score的大小順序保持了 SVM分類時(shí)距離超平面的遠(yuǎn)近距離順序,所以可以通過設(shè)置閾值來控制置信度和錯(cuò)誤率。CCC-TCC算法包括設(shè)置總的錯(cuò)分率進(jìn)行可控置信分類算法、分別設(shè)置正負(fù)例錯(cuò)分率進(jìn)行可控置信分類算法、從Score設(shè)置輸出轉(zhuǎn)換值的百分比進(jìn)行可控置信分類算法、從錯(cuò)分的Score設(shè)置輸出轉(zhuǎn)換值的百分比進(jìn)行可控置信分類算法共4個(gè)子算法,并在心臟病和糖尿病等5個(gè)數(shù)據(jù)集上對(duì)它們進(jìn)行了實(shí)驗(yàn)驗(yàn)證。對(duì)置信回歸問題的可控性進(jìn)行了研究,提出了基于KNN的置信回歸(Confidence Regressin Based on k-Nearest Neighbor,CR-KNN)算法。該算法以 KNN算法為工具,將回歸學(xué)習(xí)的結(jié)果進(jìn)行誤差判斷,實(shí)現(xiàn)接受域與拒絕域的劃分,從而實(shí)現(xiàn)置信回歸,并通過設(shè)置具體的誤差數(shù)值的改變,實(shí)現(xiàn)了置信回歸的可控。最后運(yùn)用UCI等數(shù)據(jù)集中的數(shù)據(jù)進(jìn)行了驗(yàn)證研究,選取了 Heart、Australian、Colon-Cancer、Pima Indians Diabetes、Liver-Disorders、Bodyfat、Housing、Pyrim、Triazines、Cpusmall等十余個(gè)數(shù)據(jù)集進(jìn)行了實(shí)驗(yàn)研究,與其它相關(guān)的算法在相關(guān)方面的研究進(jìn)行了比較。本學(xué)位論文提出的TCCC-OCC算法和CCC-TCC算法,以及CR-KNN算法對(duì)問題的研究,取得了滿意的效果,達(dá)到了預(yù)期的目的。
【學(xué)位單位】：北京交通大學(xué)
【學(xué)位級(jí)別】：博士
【學(xué)位年份】：2018
【中圖分類】：TP181
【部分圖文】：

分類的正確率。同樣，對(duì)于醫(yī)療診斷系統(tǒng)，Ｃｑ和Ｃ為判斷的可信度。逡逑１．２．３邐置信機(jī)器學(xué)習(xí)系統(tǒng)結(jié)構(gòu)逡逑根據(jù)上述置信機(jī)器學(xué)習(xí)系統(tǒng)模型，圖１．１給出了置信機(jī)器學(xué)習(xí)系統(tǒng)的基本結(jié)構(gòu)。逡逑環(huán)境向系統(tǒng)的學(xué)習(xí)部分提供某些信息作為訓(xùn)練數(shù)據(jù)，學(xué)習(xí)部分利用選取的學(xué)習(xí)算逡逑法對(duì)獲得的信息進(jìn)行學(xué)習(xí)，學(xué)習(xí)過程可能會(huì)對(duì)環(huán)境產(chǎn)生影響，并從環(huán)境中獲得新逡逑的訓(xùn)練數(shù)據(jù)。學(xué)習(xí)結(jié)果將由置信水平來判斷，滿足置信度條件的學(xué)習(xí)結(jié)果保留，逡逑不滿足置信度條件的學(xué)習(xí)結(jié)果舍棄，進(jìn)行人工處理。逡逑在學(xué)習(xí)結(jié)束時(shí)，獲得的知識(shí)以不同的形式表示，根據(jù)不同的學(xué)習(xí)算法，如規(guī)逡逑則庫、表達(dá)式、表格或yL經(jīng)網(wǎng)絡(luò)，統(tǒng)稱為知識(shí)庫。執(zhí)行部分主要利用學(xué)習(xí)結(jié)果對(duì)逡逑需要識(shí)別的數(shù)據(jù)進(jìn)行處理，得到相應(yīng)的識(shí)別結(jié)果。對(duì)識(shí)別的結(jié)果進(jìn)行置信度判斷，逡逑滿足置信度條件的識(shí)別結(jié)果輸出

Ｆｉｇｕｒｅ邋２．１邋Ｔｈｅ邋ｃａｌｉｂｒａｔｉｏｎ邋ｏｆ邋Ｂａｙｅｓｉａｎ邋ｃｌａｓｓｉｆｉｅｒ逡逑如果貝葉斯的置信分析是有效的，那么曲線的置信度和錯(cuò)誤率，簡(jiǎn)稱為“置信逡逑曲線”，應(yīng)該是由一個(gè)反對(duì)角線和位于反對(duì)角線的左下角。從圖２．１中可以看出，逡逑１９逡逑

非線性變換映射到高維特征空間，一個(gè)封閉的、緊湊的高維空間中的超球面建立逡逑起來，球體半徑和它包含的樣本映像的數(shù)量，包含樣本數(shù)達(dá)到最多［１８６，１８７］。ＳＶＤＤ逡逑用于構(gòu)造一個(gè)分類器，實(shí)現(xiàn)外部點(diǎn)（ｏｕｔｌｉｅｒ）的檢測(cè)，如圖３．１所示。逡逑一類分類器［１８８］只對(duì)樣本空間中的一類對(duì)象進(jìn)行分類。如果該類稱為正類，則逡逑該類的其余部分稱為負(fù)類。其實(shí)質(zhì)是在樣本空間中建立一個(gè)超球體，它包含所有逡逑的被確認(rèn)的正類對(duì)象，并使超球體最小。逡逑由于訓(xùn)練數(shù)據(jù)集從到高維特征空間ｊ存在一個(gè)非線逡逑性映射以，所以，尋找一個(gè)半徑Ｒ和球心為ａ的超級(jí)球體，使得覆蓋優(yōu)逡逑化問題如下：逡逑２８逡逑

【參考文獻(xiàn)】

相關(guān)期刊論文 前10條

1 于皓;張棟;程少龍;程輝;;基于多元線性回歸模型的牙齒比色方法[J];口腔醫(yī)學(xué)研究;2016年11期

2 朱波;陳科;徐君;張振;;平均分布集成策略:一種新的分類器融合方法[J];小型微型計(jì)算機(jī)系統(tǒng);2016年07期

3 琚煒;李銳;李輝;;使用置信區(qū)間的基頻特征對(duì)Ⅰ-Vector系統(tǒng)的性能補(bǔ)償[J];小型微型計(jì)算機(jī)系統(tǒng);2016年07期

4 王雅圣;楊夢(mèng);駱志遠(yuǎn);王酉;李光;胡瑞芬;;基于置信學(xué)習(xí)機(jī)與近紅外光譜的煤種快速分類方法[J];光譜學(xué)與光譜分析;2016年06期

5 嚴(yán)愛軍;趙輝;王普;;基于可信度閾值優(yōu)化的案例推理評(píng)價(jià)分類方法[J];控制與決策;2016年07期

6 武義涵;黃罡;張穎;熊英飛;;一種基于模型的云計(jì)算容錯(cuò)機(jī)制開發(fā)方法[J];計(jì)算機(jī)研究與發(fā)展;2016年01期

7 趙永彬;陳碩;劉明;曹鵬;;基于置信度代價(jià)敏感的支持向量機(jī)不均衡數(shù)據(jù)學(xué)習(xí)[J];計(jì)算機(jī)工程;2015年10期

8 楊思春;戴新宇;陳家駿;;面向開放域問答的問題分類技術(shù)研究進(jìn)展[J];電子學(xué)報(bào);2015年08期

9 李向軍;張華薇;鄭思維;霍艷麗;張新萍;;基于相對(duì)鄰域熵的直推式網(wǎng)絡(luò)異常檢測(cè)算法[J];計(jì)算機(jī)工程;2015年08期

10 朱海潮;崔立林;;一種基于TCM-SVDD的樣本類別標(biāo)注方法[J];中國(guó)艦船研究;2014年04期

相關(guān)博士學(xué)位論文 前2條

1 馮愛民;結(jié)構(gòu)驅(qū)動(dòng)的單類分類器設(shè)計(jì)及拓展研究[D];南京航空航天大學(xué);2011年

2 王華珍;帶置信度分類器的研究與應(yīng)用[D];廈門大學(xué);2009年

相關(guān)碩士學(xué)位論文 前2條

1 武婷婷;分類器性能評(píng)價(jià)研究[D];北京交通大學(xué);2010年

2 吳武杰;基于TCM框架的企業(yè)信用置信評(píng)估[D];廈門大學(xué);2008年

本文編號(hào)：2830328