信息论基础与应用

信息论是信息科学最成熟、最完善的一部分，它与其他学科的交叉和融合，促进了许多新兴学科的发展。本书从信息论的基本理论出发，介绍香农信息论的基本理论和方法，及其在网络信息理论和量子信息理论中的应用。全书共7章，在介绍有关信息度量的基础上，重点讨论信源与信息熵、信道与信道容量、无噪信道编码理论、含噪信道编码理论、网络信息理论和量子信息理论。
本书由浅入深、深入浅出，具有系统性、交叉性和前沿性等特点； 书中联系实际通信系统，使用较多的例题和图示阐述重要的基本概念，结合MATLAB代码实例展现信息论的实用性； 各章均附有一定量的习题，便于读者加深对概念和原理的理解。
本书可作为理工类高等院校信息工程、通信工程及相关专业的本科教材，也可供对信息科学感兴趣的各类人员参考。

赵生妹，教授、博士、博士生导师，现为江苏省普通高校“青蓝工程”学术带头人，南京邮电大学信号与信息处理专业学术带头人，中国通信学会高级会员。研究方向为无线网络中的信号处理、量子信息处理。

第1章绪论
1.1什么是信息
1.2什么是信息论
1.2.1信息论的早期酝酿
1.2.2信息论的建立与发展
1.2.3信息论的近期发展
1.3通信系统的基本模型
1.4信息论的应用及成果
1.5信息论研究范畴
习题1
第2章信源与信息熵
2.1预备知识
2.1.1概率
2.1.2古典概型
2.1.3概率性质
2.2信源的描述和分类
2.2.1离散单符号信源
2.2.2离散无记忆序列信源
2.2.3离散有记忆序列信源
2.2.4连续信源
2.3离散单符号信源的熵与互信息
2.3.1自信息量
2.3.2离散单符号信源熵
2.3.3信息熵的基本性质
2.3.4互信息量
2.3.5平均互信息量
2.3.6平均互信息量的性质
2.4离散序列信源的熵与互信息
2.4.1离散平稳信源的序列熵和熵率
2.4.2马尔可夫信源及其极限熵
2.5信源的相关性和冗余度
2.6连续信源的熵与互信息
2.6.1连续信源的相对熵
2.6.2连续信源zui大熵定理
2.6.3连续信源的互信息
2.7熵计算及熵应用
2.7.1熵计算
2.7.2熵信息应用
习题2
第3章信道与信道容量
3.1信道分类和参数表示
3.2离散单符号信道及其容量
3.2.1信道容量定义
3.2.2离散单符号无噪信道及其容量
3.2.3离散单符号有噪信道及其容量
3.3离散序列信道及其容量
3.3.1并联信道
3.3.2和信道
3.3.3扩展信道
3.4连续信道及其容量
3.4.1时间离散信道及其容量
3.4.2时间连续信道及其容量
3.5信道容量计算及MATLAB程序实现
3.5.1信道容量的MATLAB计算
3.5.2MIMO信道容量
习题3
第4章无噪信道编码理论
4.1信源编码的基本概念
4.1.1编码的定义
4.1.2码的分类
4.1.3码树
4.2无失真信源编码定理
4.2.1典型序列和ε典型序列
4.2.2无失真定长编码定理
4.2.3无失真变长编码定理
4.3限失真信源编码定理
4.3.1失真测度
4.3.2信息率失真函数R(D)
4.3.3离散信源和连续信源的R(D)计算
4.3.4限失真信源编码定理
4.4信源编码方法
4.4.1无失真信源编码方法
4.4.2限失真信源编码方法
4.5无噪信道编码MATLAB计算实现
4.5.1率失真函数的MATLAB计算实现
4.5.2编码方法的MATLAB实现
习题4
第5章含噪信道编码理论
5.1zui佳译码准则
5.2信道编码基本概念
5.2.1错误图样
5.2.2矢量空间和码矢量
5.2.3码距与纠检错能力
5.3含噪离散信道编码定理
5.3.1有噪信道编码定理
5.3.2有噪信道编码逆定理
5.4信道编码方法
5.4.1线性分组码
5.4.2循环码
5.4.3卷积码
5.5信道编码MATLAB计算实现
5.5.1RS码
5.5.2Turbo码
5.5.3LDPC码
习题5
第6章网络信息理论
6.1相关信源及可达速率区
6.2多址接入信道及其容量
6.2.1离散二址接入信道及其容量
6.2.2高斯加性二址接入信道及其容量区域
6.2.3离散多址接入信道及其容量区域
6.3广播信道及其容量
6.3.1退化离散广播信道的容量界限
6.3.2退化连续高斯广播信道的容量界限
习题6
第7章量子信息理论
7.1量子信息基本概念
7.1.1量子比特
7.1.2量子信息熵
7.2量子信源编码理论
7.3量子信道编码理论
7.3.1量子信道
7.3.2量子信道容量
7.3.3Holevo信息
7.3.4量子信道编码理论
习题7
附录习题参考答案
参考文献