熵的概念最初源自于熱力學(xué),隨后進(jìn)一步發(fā)展到統(tǒng)計(jì)物理與信息論等學(xué)科。在熱力學(xué)、統(tǒng)計(jì)物理和信息論等學(xué)科領(lǐng)域里,熵的概念占據(jù)著一個(gè)中心位置。Shannon熵的理論體系已經(jīng)比較完善,Rényi熵是Shannon熵的一個(gè)自然的推廣,并且已在計(jì)算機(jī)科學(xué)、金融學(xué)、密碼學(xué)和信息論等其它科學(xué)中獲得了廣泛的應(yīng)用。本文主要研究關(guān)于Shannon熵和Rényi熵的非齊次馬氏信源的信息熵定理及Rényi熵估計(jì)�；赟hannon熵和Rényi熵的基本概念,較詳細(xì)地討論了各種條件Rényi熵的定義,并且舉例比較它們之間的關(guān)系。利用研究概率論極限理論的分析方法,研究了一類非齊次馬氏信源--有限漸近循環(huán)馬氏鏈的廣義Shannon McMillan-Breiman定理、Rényi熵率,最后利用蒙特卡洛方法給出了Rényi熵的估計(jì)。全文分為五個(gè)章節(jié):第一章簡(jiǎn)要闡述了熵的發(fā)展背景及應(yīng)用;第二章歸納了多種Rényi條件熵的定義和基本性質(zhì)并舉例比較了它們之間的關(guān)系;第三章給出了有限漸近循環(huán)馬氏鏈的廣義平均的若干極限定理,然后建立關(guān)于有限漸近循環(huán)馬氏鏈廣義Shannon McMillan-Breiman定理;第四章研究非齊次馬氏... 

【文章來(lái)源】：安徽工業(yè)大學(xué)安徽省

【文章頁(yè)數(shù)】：59 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
Abstract
第一章 緒論
    1.1 熵
    1.2 研究背景及問題的提出
    1.3 本文主要結(jié)構(gòu)及內(nèi)容
    1.4 本文的主要?jiǎng)?chuàng)新點(diǎn)
第二章 Shannon熵與Rényi熵
    2.1 Shannon熵的基本概念與性質(zhì)
    2.2 Rényi熵及Rényi條件熵
第三章 漸進(jìn)循環(huán)馬氏鏈的強(qiáng)極限定理與廣義信息熵定理
    3.1 基本概念
    3.2 主要結(jié)果
第四章 非齊次馬氏鏈的Rényi熵率
    4.1 基本概念
    4.2 主要結(jié)果
第五章 Rényi熵的估計(jì)
    5.1 蒙特卡洛方法介紹
    5.2 正態(tài)分布Rényi熵的模擬計(jì)算
    5.3 伽馬分布Rényi熵的模擬計(jì)算
結(jié)束語(yǔ)
參考文獻(xiàn)
附錄
致謝
在學(xué)研究成果



本文編號(hào)：3444273