张梓寒

导航

2022年3月24日

机器学习里的信息论

摘要： 一.信息量 信息论背后的原理是：从不太可能的事件中，能学到更多的信息，发生概率越小的事件信息量越大，独立事件包含额外的信息 信息量又译为信息本体，由克劳德·香农提出，用来衡量单一事件发生时所包含的信息量多寡。它的单位是bit,或是nats。信息量是指一个事件所能够带来的信息的多少，这个事件发生的概率 阅读全文

posted @ 2022-03-24 16:28 张梓寒 阅读(771) 评论(0) 推荐(0) 编辑