2016年5月9日

最大熵模型

摘要: 熵 X={x1,x2,...,xn},X的熵为 联合熵 H(X,Y)=-ΣΣp(x,y)logp(x,y) 条件熵 X确定的前提下,Y新带来的熵。 H(Y|X) = H(X,Y) – H(X) 推导: 交叉熵 p(x) q(x) 是X中取值的两个概率分布,则p对q的交叉熵为: 在一定程度上可以度量两 阅读全文

posted @ 2016-05-09 10:01 IvanSSSS 阅读(128) 评论(0) 推荐(0) 编辑

导航