信息論與編碼簡明教程及習題詳解（第2版）

目錄




第1章緒論

1．1信息與信息論

1．2通信系統(tǒng)模型

1．3信息論的形成和發(fā)展

第2章離散信源與信息熵

2．1信源的分類和描述

2．2離散信源的信息熵

2．2．1自信息量

2．2．2平均自信息量

2．2．3熵的性質(zhì)

2．3離散無記憶信源

2．3．1離散無記憶信源的數(shù)學描述

2．3．2離散平穩(wěn)無記憶信源的信息熵

2．4離散平穩(wěn)信源

2．4．1離散平穩(wěn)信源的定義

2．4．2平均符號熵與二維平穩(wěn)信源

2．4．3離散平穩(wěn)信源的極限熵

2．5馬爾可夫信源

2．5．1馬爾可夫信源的數(shù)學描述

2．5．2馬爾可夫鏈

2．5．3極限熵與條件熵

2．6信源的相關性與冗余度

習題解答

第3章離散信道與平均互信息量

3．1信道的模型和分類

3．1．1信道的系統(tǒng)模型

3．1．2信道的分類

3．1．3離散信道的數(shù)學模型

3．2互信息量與平均互信息量

3．2．1互信息量

3．2．2平均互信息量

3．3信道容量

3．3．1信道容量的定義

3．3．2無噪信道的信道容量

3．3．3對稱信道的信道容量

3．3．4一般信道的信道容量

3．3．5信源與信道匹配

3．4離散無記憶信道

3．4．1離散無記憶信道的數(shù)學描述

3．4．2離散無記憶信道的平均互信息量

3．5串聯(lián)信道的平均互信息量

習題解答

第4章無失真信源編碼

4．1信源編碼的基本概念和要求

4．2即時碼與唯一可譯碼

4．3定長編碼定理

4.4變長編碼定理

4．5變長編碼方法

4.5.1香農(nóng)編碼方法

4．5．2費諾編碼方法

4．5．3霍夫曼編碼方法

習題解答

第5章限失真信源編碼

5．1失真函數(shù)

5．1．1失真度

5．1．2平均失真度

5．2信息率失真函數(shù)

5．2．1信息率失真函數(shù)的定義

5．2．2信息率失真函數(shù)的性質(zhì)

5．2．3二進制信源的率失真函數(shù)

5．3信息率失真函數(shù)的計算

5．3．1率失真函數(shù)的參量表述方法

5．3．2率失真函數(shù)的迭代計算方法

5．4限失真信源編碼定理

習題解答

第6章有擾信道編碼

6．1信道編碼基本概念

6．2差錯控制系統(tǒng)

6．3信道編碼的分類

6．4編碼信道模型

6．5最大后驗概率譯碼與最大似然譯碼

6．6漢明距離與距離分布

6．7編碼信道容量

6．8信道編碼定理

習題解答

第7章線性分組碼

7．1線性分組碼與生成矩陣

7．2線性分組碼與校驗矩陣

7．3線性分組碼的譯碼

7．3．1伴隨式與碼的結構

7．3．2不可檢錯概率與碼的重量分布

7．3．3標準陣列與陪集

7．4漢明碼及其變形

7．4．1漢明碼

7．4．2漢明碼的變形

7．5線性分組碼的性能限

7．6Turbo分組碼

7．6．1Turbo分組碼的編碼

7．6．2Turbo迭代譯碼的基本思想

7．7LDPC碼

7．7．1LDPC碼的概念

7．7．2LDPC碼的構造

7．7．3LDPC碼迭代譯碼的基本思想

7．7．4二進制刪除信道中的迭代譯碼算法

7．8卷積碼

7．8．1卷積碼的基本概念

7．8．2卷積碼的編碼方法

7．8．3卷積碼的譯碼方法

7．9糾錯編碼的性能估計

習題解答

第8章連續(xù)信源與連續(xù)信道

8．1連續(xù)信源與其相對熵

8．1．1單維連續(xù)信源的相對熵

8．1．2連續(xù)信源的最大熵

8．1．3多維連續(xù)信源的相對熵

8．2連續(xù)信道與平均互信息量

8．2．1單維連續(xù)信道的平均互信息量

8．2．2多維連續(xù)信道的平均互信息量

8．3連續(xù)信道的信道容量

8．3．1單維加性信道的信道容量

8．3．2多維加性信道的信道容量

8．3．3信道編碼定理與香農(nóng)限

8．4連續(xù)信源的信息率失真函數(shù)

8．4．1信息率失真函數(shù)的定義和性質(zhì)

8．4．2高斯信源的信息率失真函數(shù)

習題解答

第9章信息論的發(fā)展與應用

9.1網(wǎng)絡信息論初步

9.1.1網(wǎng)絡信道分類

9.1.2網(wǎng)絡信道容量

9.2信息論在密碼學中的應用

9.2.1保密系統(tǒng)

9.2.2完全保密性

習題解答

參考文獻