信息论与编码说课

各位老师:
大家好。我是计算机学院的拉尔夫 斯坦曼   
今天我说课的内容是《信息论与编码》课程的第二章第四节平均互信息《信息论与编码》是信息安全专业学科的基础必修课,它是信息安全学科中许多专业课程,如:密码学、信息隐藏、信息系统安全等课的先修课程。信息论(information theory)是信息科学的主要理论基础之一,是与概率论、随机过程和数理统计等近代数学学科相结合而建立并发展起来的。信息论主要研究可能性和存在性问题,为具体实现提供理论依据,是信息技术发展的基本理论,因此教好学好这门课程就显得很必要、很重要。
教学目标
通过本课程的学习,使学生对信息论与编码理论有比较全面和系统地了解,掌握信息论的基本概念、基本分析方法,包括信源熵、信道容量和信息失真函数等;掌握常用的信源编码方法,包括香农编码、费诺编码、哈夫曼编码、矢量量化编码和预测编码等;掌握常用信道编
码,包括线性码、循环码等,为从事信息科学的研究和应用打下坚实的基础。
电影天地教材的选择
我选用的教材是清华大学出版社出版的姜楠、王健编著的《信息论与编码理论》。信息论与编码理论是从工程实践中抽象概括出来的理论知识,既具有很强的理论性,又有广泛的工程实践背景。本科学生由于缺乏这种实践背景,往往很难理解其中的理论知识。这本教材主要通过读者身边看得见、摸得着的例子来解释这些理论知识,讲解深入浅出。
大多数的教材除了介绍信息论基础和编码理论外,都用了大量的篇幅来证明早已成熟的理论和公式。这本教材的重点在于对理论知识含义的说明,而非证明过程,比较适合信息安全专业的本科学生。
教学策略
首先由于信息论与编码涉及的内容很多、逻辑性很强,必须合理地筛选授课内容。在侧重基本概念、基本原理和基本方法原则指导下,重点讲授基础的或者带有普遍意义的知识点。其次强调概念、理论的物理意义,联系应用以培养学习兴趣。
信息论与编码课程中运用了大量的数学知识,有许多复杂的数学证明、抽象的概念、枯燥的公式等等,接受起来比较困难。行政法律制度并且过度关注公式推导证明往往会使得学生感觉抽象、枯燥,渐渐造成学习兴趣的下降。针对这种情况,在保证基本概念以及简单的证明和推导能够掌握的前提下,淡化证明和推导。
本节课课程内容
第二章第四节平均互信息,本节内容主要包括:1.平均互信息的定义及含义2.平均互信息的性质3. 数据处理定理及其解决方法4.各种熵和平均互信息量之间的关系。
一、平均互信息的定义:联合集(X,Y)上互信息的数学期望定义为平均互信息。
平均互信息的含义:
1.知道了集合Y之后,平均Y中的一个事件消除掉的关于集合X中的一个事件的不确定性。
2.由Y中的一个事件平均能够提供出来的关于集合X中的一个事件的信息量。
3.表示了两个集合之间关系的密切程度。
讲解15分钟。
二、平均互信息的性质
1.非负性;2.互易性;3.极值性;4.凸函数性
讲解10分钟。
三、数据处理定理及其解决方法
数据处理定理:信息不增性
数据处理定理的解决方法:多次测量
pm0.5讲解10分钟。
四、各种熵和平均互信息量之间的关系:讲解15
利用维拉图描述平均互信息量与各种熵之间的关系;利用维拉图对数据处理定理以及多次测量的直观描述。
利用维拉图讲解是本次课的亮点。多数的教材只给出各种熵和平均互信息量之间的数学公式,学生不易理解掌握,并且公式较多,学生容易混淆。而本节课充分利用了与各个公式所对应的维拉图来进行直观的描述,学生很容易就理解掌握了,并且增强了学习的兴趣和动力。
课后作业:求平均互信息,联合互信息,条件互信息的题目,题目结果可验证多次测量的理论。这个作业题要求求出三种互信息量:平均互信息,联合互信息,条件互信息,不仅可以帮助学生巩固互信息量的定义含义,而且这个题目的结果还可以验证多次测量的理论,以帮助学生更好的理解和掌握这个理论。大鼠
以上仅是我在教学过程中的一些体会和思考,请大家多提意见。下一步将继续完善教学大纲、教学进程、实验教学、在线交流、电子课件等。利用多媒体教学和网络资源,扩展师生交流平台,促进教、学双方的相互了解,丰富教学手段,提高教学质量。

本文发布于:2024-09-21 10:46:07,感谢您对本站的认可!

本文链接:https://www.17tex.com/xueshu/435631.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:编码   理论   互信息   信息论
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议