一、《信息论基础》课程说明
（一）课程代码：14131054
（二）课程英文名称：informationtheory（三）开学对象：信息管理与信息系统专业（四）课程性质：
信息论是20世纪40年代后期从长期通讯实践中总结出来的一门学科，是研究信息的有效处理和可靠传输的一般规律的科学。本课程是信息管理与信息系统本科的专业课。它应用近代数理统计方法研究信息传输、存贮和处理，并在长期通信工程实践中不断发展。因而它是一门新兴科学，亦称为通信的数学理论。建立在通信理论的数学知识基础之上的信息论在数据压缩、调制解调器、广播、电视、卫星通信，计算机存储，因特网通讯，密码学等方面有着广泛的用途。要使学生领会信息论的基本思想，具备解决实际问题的能力。从而学习信息论基础，是将信息论渗透到并应用于更广泛的各种科学技术领域的必经之路，也有助于进一步发展和深化信息概念与信息理论。先修课程为概率论与数理统计（五）教学目的：
本课程就是信息管理与信息系统本科生的专业课，使用概率论与随机过程等数学方法研究信息的测度、信道容量以及信源与信道编码等理论问题；主要目的就是使学生介绍shannon信息论的基本内容，掌控其中的基本公式和基本运算，培育利用信息论的基本原理分析和化解实际问题的能力，为进一步自学通信和信息以及其他有关领域的高深技术打下较好的理论基础。（六）教学内容： 掌握熵与互信息的概念，性质与计算；掌握离散信源熵的计算；掌握离散信源编码定理与huffman编码方法；掌握特殊离散无记忆信道与高斯信道容量的计算；掌握信道编码定理；理解r（d）函数与有失真的信源编码定理.（七）学时数、学分数及学时数具体分配学时数：36分数：2 学时数具体内容分配：教学内容第一章绪论第二章信源和信息熵第三章信道与信道容量第四章率为杂讯函数第五章编码定理合计210481236合计210481236讲授实验/课堂教学（八）教学方式：使用多媒体教学方式
（九）考核方式和成绩记载说明
考试方式将融合平时作业、平时考核(40%)、期末考试(60%)的各个环节。并使学生能著重平时自学的过程，发生改变学生从应试型至能力型。考试内容侧重于基本概念、
基本内容及其知识的综合应用。
二、讲授大纲与各章的基本建议第一章绪论
教学要点：通过本章的学习使学生明确信息的内涵与外延及其相关概念
1、掌控信息基本概念。2、介绍信息内容概述。3、通信系统模型。4、信息论发展简史。教学时数：2学时教学内容：
第一节信息论综述一、信息基本概念
第二节信息论研究对象一、信息内容概述二、通信系统模型；三、信息论发展简史。考核建议：1、信息论综述
1.1信息基本概念(理解)2、信息论研究对象
1.2.1信息内容概述（领会）1.2.2通信系统模型（鼓腮）
第二章信源和信息熵
知识管理系统 教学要点：通过本章的自学主要介绍信源特征，信源分类，线性信源的信息熵；线性熵；熵函数公理的形成；线性随机变量之间的互信息；信息不增性原理；稳定线性信源；马尔柯夫信源；已连续随机变量的熵和互信息；随机过程的信息量与熵。1、明晰信源特征,信源的分类。2、什么就是线性信源的信息熵。3、介绍线性熵。
4、掌握熵函数公理的构成。
5、并使学生晓得线性随机变量之间的互信息。6、明晰已连续随机变量的熵和互信息。7、随机过程的信息量与熵。8、明晰信息不增性原理。9、介绍稳定线性信源。教学时数：10学时教学内容：第一节信源一、源特征；二、信源分类。第二节信源熵
一、离散信源的信息熵
二、息熵；
三、熵函数公理的构成；
四、线性随机变量之间的互信息五、信息不增性原理六、稳定线性信源七、马尔柯夫信源
八、连续随机变量的熵和互信息九、随机过程的信息量与熵。考核要求：1、信源
1.1信源特征(鼓腮)1.2信源分类(鼓腮)2、信源熵
2.1离散信源的信息熵(领会)2.2离散熵(领会)
2.3熵函数公理的形成；(应用领域)
2.4离散随机变量之间的互信息(领会)2.5信息不增性原理(应用)2.6平稳离散信源(领会)2.7马尔柯夫信源(领会)
2.8已连续随机变量的熵和互信息(应用领域)2.9随机过程的信息量与熵。(鼓腮)
第三章信道与信道容量
教学要点:通过本章的自学明晰信道的概念,分类,线性并无记忆信道的信道容量。信道的女团；时间线性的并无记忆已连续信息；波形信道。1、明晰信道分类。
1、使学生准确掌握离散无记忆信道的信道容量。2、明确信道的组合。
3、熟识时间线性的并无记忆已连续信息。4、熟识波形信道。
千疮百孔的心 教学时数：4学时教学内容：第一节信道
一、信道分类
二、离散无记忆信道的信道容量第二节信道组
一、信道的女团
二、时间离散的无记忆连续信息三、波形信道。考核要求：1、信道
电子消毒柜 1.1信道分类(鼓腮)
西华大学学工系统 1.2离散无记忆信道的信道容量。(识记)2、信道组合
2.1信道的女团(领会)
ltps
2.2时间离散的无记忆连续信息(领会)2.3波形信道。(领会)
第四章率为杂讯函数
教学要点：通过本章的教学使学生明确率失真函数的定义；率失真函数的性质。率失真函数的参数表达式；率失真函数的迭代计算；连续信源的率失真函数；率失真函数上、下限估计。
1、明晰率为杂讯函数的定义。2、明晰率为杂讯函数的性质。
3、使学生掌握率失真函数的参数表达式。4、使学生掌握率失真函数的迭代计算。5、熟悉连续信源的率失真函数。
6、并使学生掌控率为杂讯函数上、上限估算。教学时数：8学时教学内容：
第一节率失真函数的定义与性质一、率失真函数的定义二、率失真函数的性质。第二节率失真函数的计算一、率失真函数的参数表达式二、率失真函数的迭代计算；三、连续信源的率失真函数四、率失真函数上、下限估计。考核要求：
1、率为杂讯函数的定义与性质1.1率为杂讯函数的定义(鼓腮)1.2率为杂讯函数的性质。(领会)2、率为杂讯函数的排序
2.1率失真函数的参数表达式(应用)2.2率失真函数的迭代计算(应用)2.3连续信源的率失真函数(应用)2.4率失真函数上、下限估计(应用)
第五章编码定理
教学要点：通过本章的学习使学生掌握离散信源的无失真编码定理，信道编码定理，限失真信源编码定理1、使学生掌握编码器
2、熟识线性并无记忆信源的相切编码及左右短编码3、掌控左右短编码的编码方法
4、理解平稳信源和马尔可夫信源的编码定理
5、晓得线性信道编码问题
6、掌握联合典型序列及信道编码定理7、掌握错误概率的上界8、明确编码的逆定理
9、明晰减半杂讯线性并无记忆信源编码定理教学时数：12学时教学内容：
第一节离散信源的无失真编码定理一、编码器
18惠
二、线性并无记忆信源的相切编码三、线性并无记忆信源的左右短编码四、左右短编码的编码方法
五、平稳信源和马尔可夫信源的编码定理。第二节信道编码定理一、离散信道编码问题
二、联手典型序列及信道编码定理三、错误概率的上界四、编码的逆定理
五、改进的错误概度上界六、错误概率的下界七、错误概率下界的改善八、连续信道编码定理。第三节限失真信源编码定理
一、减半杂讯线性并无记忆信源编码定理二、已连续并无记忆信源杂讯三、编码定理。考核建议：
1、掌握离散信源的无失真编码定理2、道编码定理
3、减半杂讯信源编码定理以及基本概念
三、推荐教材和参考书目
教材：《信息论与编码》，仇佩亮，高等教育出版社，2021参考书目：
1．沈世镒陈鲁生，科学出版社，2021
2．《信息论与编码理论》，周荫清，信息理论基础，北京航空航天大学出版社，20023．《信息论理论基础》，贾世楼，哈尔滨工业大学出版社，2001
4．codingandinformationtheory，stevenroman，springer-verlag，1998.
豫公网安备41160202000603
站长QQ:729038198
关于我们
投诉建议