信息论与编码习题解答与实验指导

"（1）通过演算习题，加深对理论和概念的理解，增强分析和解决问题的能力；通过实践环节，直接地培养创新思维和动手能力。 （2）概念清晰，解题详细，实验典型，选择的题目和实验具有广泛性和代表性，且题目和实验的难度适中，有层次。 （3）习题题型多样，包括选择、填空、判断和计算等类型。选择、填空和判断型客观题的设计注重对基本概念的考察，计算题的设计注重对基本概念和灵活运用能力的考察。 （4）实验内容丰富，包括10个基础实验和5个拓展实验，可供读者参考使用，每个实验都给出了实验目的、实验要求、算法和参考程序。 "

本书是学习“信息论与编码”课程的教辅用书，旨在为本科生和硕士研究生提供学习指导和帮助。全书共分9章，由习题解答和实验指导两大部分组成。第1~7章是习题解答，内容包括香农信息理论、信源压缩编码、有噪信道编码和加密编码等，习题题型丰富，包括选择、填空、判断和计算等类型。第8~9章是实验指导，实验内容丰富，每个实验都给出了实验目的、实验要求、算法和参考程序。本书可供高等院校信息、通信、电子等相关专业的教师、本科生和研究生等参考使用，也可供相关科技人员学习信息论时参考。

"陈瑞，南京工程学院教授，江苏省青蓝工程中青年骨干教师。1991年毕业于东南大学无线电技术基础专业，获学士学位；1996年毕业于东南大学自动控制理论与应用专业，获硕士学位；2013年毕业于南京邮电大学信息与通信系统专业，获博士学位；同年进入东南大学控制科学与工程博士后流动站工作并顺利出站。1996至今在南京工程学院工作，长期致力于无线多媒体通信和视频信息处理方面的研究工作。主持/参与国家自然科学基金、省部级科研项目多项，在SCI/EI期刊、国内核心刊物和国际会议上发表论文40多篇。主要承担“计算机通信与网络”“信息论与编码”“微机原理及接口技术”及“多媒体通信”等课程的教学任务。近年来获南京工程学院“优秀教师”等荣誉。 "

第1章绪论
1.1知识点
1.1.1信息的概念
1.1.2信息论研究的对象、目的和内容
1.2习题详解
1.2.1判断题
1.2.2填空题
1.2.3问答题
第2章信源与信息熵
2.1知识点
2.1.1信息论中常用的概率公式
2.1.2信源的分类
2.1.3离散信源的自信息和信息熵
2.1.4联合自信息量和联合熵
2.1.5条件自信息量和条件熵
2.1.6互信息和平均互信息
2.1.7各种熵的关系
2.1.8多符号离散序列信源熵
2.1.9连续信源的微分熵和优选熵
2.1.10信源冗余度
2.2习题详解
2.2.1选择题
2.2.2判断题
2.2.3填空题
2.2.4问答题
2.2.5计算题
第3章信道与信道容量
3.1知识点
3.1.1信道和信道的数学模型
3.1.2离散单符号信道及其容量
3.1.3离散序列信道及其容量
3.1.4连续信道及其容量
3.2习题详解
3.2.1选择题
3.2.2判断题
3.2.3填空题
3.2.4名词解释
3.2.5问答题
3.2.6计算题
第4章信息率失真函数
4.1知识点
4.1.1信息率失真函数的定义
4.1.2信息率失真函数的性质
4.1.3信息率失真函数的计算
4.2习题详解
4.2.1选择题
4.2.2填空题
4.2.3判断题
4.2.4计算题
第5章信源编码
5.1知识点
5.1.1信源编码
5.1.2无失真信源编码
5.1.3无失真信源编码方法
5.1.4限失真信源编码
5.1.5限失真信源编码方法
5.2习题详解
5.2.1选择题
5.2.2名词解释
5.2.3判断题
5.2.4填空题
5.2.5问答题
5.2.6计算题
第6章信道编码
6.1知识点
6.1.1有扰离散信道的编码定理
6.1.2线性分组码
6.1.3循环码
6.1.4卷积码
6.2习题详解
6.2.1选择题
6.2.2判断题
6.2.3填空题
6.2.4问答题
6.2.5计算题
第7章加密编码
7.1知识点
7.1.1密码学基本概念
7.1.2经典算法——DES（分组加密）
7.1.3经典算法——RSA
7.1.4流密码
7.2习题详解
7.2.1填空题
7.2.2名词解释
7.2.3计算题
第8章基础实验
8.1实验一单符号离散信源熵的计算
8.1.1实验目的
8.1.2实验要求
8.1.3实验原理与程序代码
8.1.4思考题
8.2实验二任意DMC信道容量的计算
8.2.1实验目的
8.2.2实验要求
8.2.3实验原理与程序代码
8.2.4实验思考与改进
8.3实验三AWGN波形信道容量的计算
8.3.1实验目的
8.3.2实验要求
8.3.3实验原理与程序代码
8.4实验四专享可译码的判定
8.4.1实验目的
8.4.2实验要求
8.4.3实验原理与程序代码
8.4.4实验思考与改进
8.5实验五香农编码
8.5.1实验目的
8.5.2实验要求
8.5.3实验原理与程序代码
8.5.4实验思考与改进
8.6实验六哈夫曼编码
8.6.1实验目的
8.6.2实验要求
8.6.3实验原理与程序代码
8.6.4实验思考与改进
8.7实验七线性分组码的编码
8.7.1实验目的
8.7.2实验要求
8.7.3实验原理与程序代码
8.7.4实验思考与改进
8.8实验八线性分组码的译码
8.8.1实验目的
8.8.2实验要求
8.8.3实验原理与程序代码
8.8.4实验思考与改进
8.9实验九循环冗余校验（CRC）码的编码与译码
8.9.1实验目的
8.9.2实验要求
8.9.3实验原理与程序代码
8.9.4实验思考与改进
8.10实验十简单的文本加密算法
8.10.1实验目的
8.10.2实验要求
8.10.3实验原理与程序代码
8.10.4实验思考与改进
第9章拓展实验篇
9.1实验一英文文本中字符的概率统计
9.1.1实验目的
9.1.2实验要求
9.1.3实验原理与程序代码
9.1.4实验思考
9.2实验二二值图像的游程编码无损压缩
9.2.1实验目的
9.2.2实验要求
9.2.3实验原理与程序代码
9.2.4实验思考
9.3实验三灰度图像的灰度降级与哈夫曼编码的联合压缩
9.3.1实验目的
9.3.2实验要求
9.3.3实验原理与程序代码
9.3.4实验思考
9.4实验四灰度图像的DCT变换与压缩
9.4.1实验目的
9.4.2实验要求
9.4.3实验原理与程序代码
9.4.4思考题
9.5卷积码的编码与译码
9.5.1实验目的
9.5.2实验要求
9.5.3实验算法与结果
9.5.4实验思考
参考文献