摘要: 信息量 熵:对所有可能事件所带来的信息量求期望 交叉熵:衡量两个分布更相似否?(在大小上,类似于点积) 它主要刻画的是实际输出(概率)与期望输出(概率)的距离,也就是交叉熵的值越小,两个概率分布就越接近。 参考文献 引言 在使用pytorch深度学习框架,计算损失函数的时候经常会遇到这么一个函数: 阅读全文
posted @ 2022-10-09 21:11 zae 阅读(326) 评论(0) 推荐(0) 编辑
摘要: 集合{ri}表示索引集合,i从0到n。 chrome-extension://ikhdkkncnoglghljlkmcimlnlhkeamad/pdf-viewer/web/viewer.html?file=https%3A%2F%2Faclanthology.org%2F2022.acl-long 阅读全文
posted @ 2022-10-09 20:48 zae 阅读(21) 评论(0) 推荐(0) 编辑