摘要: 一、熵相关内容 本章主要介绍几个关于熵的几个概念性定义,包括自信息、熵(信息熵)、联合熵、条件熵、左右熵、相对熵(KL散度)、交叉熵和softmax、信息增益(互信息)和信息增益率、条件互信息等。接下来介绍一种最大熵算法 1.1 熵的几个相关定义 1.1.1 自信息和熵(单个变量) 自信息 self 阅读全文
posted @ 2021-07-26 08:19 liujy1 阅读(2118) 评论(0) 推荐(0) 编辑