【课程笔记】中科大信息论（一）

第一节课讲解了信息论的基本背景，看了B站的“5G，华为，土耳其——我花了两个月，搞懂了5G背后的秘密”，布置作业复习离散概率论。

• 香农并不是凭空地创造出了信息论，而是综合了当时技术中的关键问题，并将其了抽象、综合、提炼到了一起。时代背景中的问题推动着他的思考。

• 信息是什么？
  香农认为是不确定度的消减，我觉得只要是使原有认知发生改变的一切事物都可以看作信息。

• 摩斯密码：

  字母部分是信源编码：根据字母出现的概率压缩

  数字部分是信道编码：增加冗余，便于纠错

  

  探究设计初衷要联系其应用场景。