決策樹是一種以智能化方式進(jìn)行實(shí)例分類的數(shù)據(jù)挖掘方法,已被廣泛應(yīng)用于人工智能等領(lǐng)域。其中單調(diào)分類算法可以解決屬性和標(biāo)簽值具有單調(diào)序關(guān)系的分類問題。單調(diào)序關(guān)系是指在分類的過程中對屬性和標(biāo)簽存在的一種單調(diào)約束,即當(dāng)屬性值增加時(shí),類標(biāo)簽值應(yīng)該不變或是相應(yīng)地增加。這種分類問題在客戶信用等級評估等領(lǐng)域廣泛存在。然而以往的實(shí)驗(yàn)表明使用傳統(tǒng)單調(diào)分類算法通常對噪聲數(shù)據(jù)比較敏感并且對數(shù)據(jù)集的種類有一定的限制。為了解決上述問題,本文提出了一種以數(shù)據(jù)集的分布情況為依據(jù)的決策樹分類算法。首先根據(jù)非同類數(shù)量比指標(biāo)對原始數(shù)據(jù)集進(jìn)行降噪,減少噪聲樣本對分類結(jié)果的影響,以此提高分類準(zhǔn)確率。其次由于傳統(tǒng)的單調(diào)分類方法僅適用于屬性和標(biāo)簽都為有序值的數(shù)據(jù)集,且形成的單變量決策樹無法綜合考慮所有屬性對分類任務(wù)的影響率,所以本文將數(shù)據(jù)集映射到多維空間中,并結(jié)合局部密度峰值聚類的方法形成具有數(shù)量單調(diào)約束的單調(diào)分類,從而演化成一棵多變量決策樹,該方法不僅可消除對數(shù)據(jù)集種類的限制因素,還能夠?qū)⑺袑傩缘挠绊懠{入分類過程。最后通過相對邊界點(diǎn)與局部錯(cuò)分率之和兩個(gè)方法確定最佳分裂超平面對數(shù)據(jù)進(jìn)行分類。在實(shí)驗(yàn)方面,本文將提出的具有數(shù)量單調(diào)約束... 

【文章來源】：大連海事大學(xué)遼寧省 211工程院校

【文章頁數(shù)】：59 頁

【學(xué)位級別】：碩士

【部分圖文】：

圖２．１上近似和下近似??Ｆｉｇ．?２．１?Ｕｐｐｅｒ?ａｐｐｒｏｘｉｍａｔｉｏｎ?ａｎｄ?ｌｏｗｅｒ?ａｐｐｒｏｘｉｍａｔｉｏｎ??

?大連海事大學(xué)專業(yè)學(xué)位碩士學(xué)位論文???例３．１如圖３．１所示，給定一個(gè)樣本集ｔ／，假設(shè)這里Ａ為３，隨機(jī)選取一個(gè)樣本。??樣本ｘ的三個(gè)最近鄰樣本用乃，知乃表示，且尺（；＾）?＝?０．７，／？（；ｃ，ｙ２）?＝?０．５５，??ｉ？（ｘ，＿ｙ３）?＝?０．５。那么以?ｘ?為圓心，半徑／，?＝?１?—＝?０．３，／２?＝?ｌ－７？（；ｃ，＿ｙ２）二?０．４５，??／３＝１－＿／？（ｊｃ，ｊ３）?＝?０．５，可以確定三個(gè)圓小６，３。假設(shè)圓＾２，？＊３中包含的樣本總數(shù)量分別??為７、１０和１２，其中與；ｃ不同類的樣本的總數(shù)量分別為６、９和１０，那么樣本ｘ的非同??類數(shù)量比可計(jì)算如下：??，Ｎ?１?（Ａ?Ｑ?Ｖ??ＤＣ?ｒａｔｉｏ（ｘ）＝－?—Ｈ?＋?—?＝０．８６３??一?ｋ?ｖ?３＾７?１０?１２Ｊ??由上述計(jì)算結(jié)果可知，樣本Ｘ的非同類數(shù)量比為０．８６３。假設(shè)閾值２?＝?０．８，樣本Ｘ的??非同類數(shù)量比大于閾值，ｘ確定為噪聲樣本，需要從數(shù)據(jù)集中將該樣本移除。若閾值??義＝?０．９，樣本；ｃ的非同類數(shù)量比小于閾值，則ｘ不是噪聲樣本。??／?Ｃｌａｓｓ?１：??＾?Ｃｌａｓｓ２：?Ａ?＾??參?？??參參▲??？??ｉ．．：：：：：＇?▲?▲?▲??？?Ｕ々＂／?▲?Ａ??Ｖ?？?＊?Ｊ??圖３．１非同類數(shù)量比降噪結(jié)果??Ｆｉｇ．?３．１?ｎｏｉｓｅ?ｒｅｄｕｃｔｉｏｎ?ｒｅｓｕｌｔｓ?ｏｆ?ｄｉｆｆｅｒｅｎｔ?ｃｌａｓｓ’ｓ?ｒａｔｉｏ??３．２基于屬性的模糊支配關(guān)系??在本文中，將數(shù)據(jù)集中的所有樣本根據(jù)屬性值映射到多維空間，那么如何在多維空??間中形成基于屬性集的數(shù)量單調(diào)支配關(guān)系是本節(jié)討論的重點(diǎn)。在文獻(xiàn)

?具有數(shù)量單調(diào)約束的多變量決策樹分類算法???數(shù)的數(shù)量比求得。因?yàn)樵跀?shù)據(jù)集中，每一類樣本的數(shù)量及分布是不平衡的，數(shù)量越大的??類，聚類之后的樣本數(shù)量也會(huì)偏大。在這種情況下，再完全根據(jù)聚類樣本數(shù)量對比是沒??有意義的，所以本文通過數(shù)量比的形式來解決對比不平衡的問題。下面給出一個(gè)例子解??釋如何計(jì)算數(shù)量比。??例３．２如圖３．２所示，假設(shè)紅色樣本點(diǎn)是岣類的樣本，藍(lán)色樣本點(diǎn)是４類的樣本。??如果采用上述局部密度峰值聚類的方法對＜?和?＜?這兩個(gè)類的樣本分別進(jìn)行聚類，聚類??結(jié)果如圖所示。不難看出，ｃ／，類的樣本通過聚類之后的樣本總數(shù)為１３個(gè)，而＜?的樣本??總數(shù)為８個(gè)。那么名和之各自在屬性峑集上數(shù)量比分別為１３／２３?？?０．５７和８／１７?？?０．４７。??通過比較４和＜的數(shù)量比的結(jié)果，可以形成這樣的支配關(guān)系，在屬性全集Ｊ下，弋類??中的樣本可以支配（類中的樣本。??．？．?？?▲??Ｃｌａｓｓ?ｏｎｅ：?＃??Ｃｌａｓｓ?Ｔｗｏ：??圖３．?２局部密度峰值聚類結(jié)果??Ｆｉｇ．?３．２?ｒｅｓｕｌｔｓ?ｏｆ?ｌｏｃａｌ?ｄｅｎｓｉｔｙ?ｐｅａｋ?ｃｌｕｓｔｅｒｉｎｇ??３．３具有數(shù)量單調(diào)約束的支配關(guān)系??傳統(tǒng)單調(diào)分類的支配關(guān)系是根據(jù)樣本的Ｍ性值和標(biāo)簽值確定的，屬性值大的樣本支??配屬性值小的樣本，同理，標(biāo)簽值大的樣本支配標(biāo)簽值小的樣本。但是，要形成這樣的??支配關(guān)系，就要進(jìn)行數(shù)值對比，就要求數(shù)據(jù)集的屬性和標(biāo)簽為有序值。這就極大程度限??制了單調(diào)分類可用數(shù)據(jù)集的范圍，使得該分類算法有了局限性。因此，本文從數(shù)量的角??度形成支配關(guān)系，確定具有數(shù)量單調(diào)約束的支配關(guān)系集。??在本文中形成的具有數(shù)量單調(diào)約束的支配


本文編號(hào)：2970985