得益于計算機技術(shù)和無線通信技術(shù)的發(fā)展,機器人網(wǎng)絡(luò)、無線傳感器網(wǎng)絡(luò)、智能電網(wǎng)、計算機網(wǎng)絡(luò)以及車聯(lián)網(wǎng)等的應用越來越廣泛,多智能體網(wǎng)絡(luò)作為這些網(wǎng)絡(luò)的一個抽象,受到了越來越多的重視。關(guān)于多智能體網(wǎng)絡(luò)的一個重要的研究課題是如何高效地對存儲于其上的海量數(shù)據(jù)進行聚類和密度估計。可選的方式主要包括集中式的處理方式和分布式的處理方式,分布式的處理方式又可分為有中心和無中心兩種。無中心的分布式處理方式相比于其他兩種方式具有更高的系統(tǒng)魯棒性,更可靠的數(shù)據(jù)安全性和更平衡的節(jié)點通信和計算負載,因此近年來獲得越來越多的研究者的關(guān)注。以往許多無中心的分布式聚類算法都是基于K-means和EM算法的,這使得它們?nèi)菀自馐芫垲悢?shù)選擇問題或奇點問題,以及非高斯數(shù)據(jù)聚類問題。本文主要針對這些問題展開研究工作,在判別式聚類和生成式聚類的框架下分別基于最小歸一化信息距離的方法和基于隨機變分推斷(SVI)開發(fā)了多種分布式聚類和推斷算法。具體地,本文包括以下主要內(nèi)容:1.在判別式聚類的框架下,通過最小化聚類數(shù)據(jù)和聚類標簽之間的歸一化信息距離(NID),提出了基于最小歸一化信息距離(MNID)的聚類算法,然后借用多智能體一致性算法將其擴...

【文章頁數(shù)】：108 頁

【學位級別】：碩士

【文章目錄】：
摘要
abstract
第1章 緒論
    1.1 研究背景和意義
    1.2 國內(nèi)外研究現(xiàn)狀
        1.2.1 無中心的分布式一致優(yōu)化算法研究現(xiàn)狀
        1.2.2 分布式聚類算法研究現(xiàn)狀
        1.2.3 VB方法及其分布式擴展研究現(xiàn)狀
    1.3 研究內(nèi)容和貢獻
        1.3.1 主要內(nèi)容和章節(jié)安排
        1.3.2 主要貢獻
第2章 預備知識
    2.1 圖論基礎(chǔ)
    2.2 一致性算法和一致優(yōu)化算法
        2.2.1 一致性算法
        2.2.2 一致優(yōu)化算法
    2.3 信息理論度量
    2.4 集中式優(yōu)化算法
        2.4.1 自然梯度法
        2.4.2 信賴域算法
    2.5 本章小結(jié)
第3章 基于歸一化信息度量的分布式聚類算法
    3.1 動機與原理
    3.2 集中式MNID算法
        3.2.1 問題表述
        3.2.2 算法設(shè)計
        3.2.3 算法分析與討論
    3.3 分布式MNID算法
        3.3.1 問題表述
        3.3.2 分布式MLR算法
        3.3.3 算法設(shè)計
        3.3.4 算法分析與討論
    3.4 實驗結(jié)果
        3.4.1 合成數(shù)據(jù)
        3.4.2 真實數(shù)據(jù)
    3.5 本章小節(jié)
    3.6 附錄
        3.6.1 命題3.1的證明
第4章 基于一致性優(yōu)化算法的分布式隨機變分推斷算法
    4.1 變分貝葉斯方法
        4.1.1 共軛指數(shù)模型
        4.1.2 平均場變分推斷
    4.2 隨機變分推斷
        4.2.1 自然梯度
        4.2.2 隨機優(yōu)化
        4.2.3 算法設(shè)計
    4.3 分布式SVI算法
        4.3.1 問題表述
        4.3.2 基于分布式梯度法的SVI算法
        4.3.3 基于diffusion方法的分布式SVI算法
    4.4 本章小結(jié)
第5章 分布式SVI算法應用和實驗結(jié)果
    5.1 伯努利混合模型
        5.1.1 模型介紹
        5.1.2 實驗設(shè)置和結(jié)果
    5.2 高斯混合模型
        5.2.1 模型介紹
        5.2.2 實驗設(shè)置和結(jié)果
    5.3 隱含狄利克雷分布模型
        5.3.1 模型介紹
        5.3.2 實驗設(shè)置和結(jié)果
    5.4 本章小節(jié)
第6章 總結(jié)與展望
    6.1 研究內(nèi)容總結(jié)
    6.2 未來研究展望
參考文獻
致謝
在讀期間發(fā)表的學術(shù)論文與取得的研究成果



本文編號：4034653