会员
周边
众包
新闻
博问
闪存
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
未雨愁眸
tensorflow群469331966
博客园
::
首页
::
新随笔
::
联系
::
订阅
::
管理
公告
Gini 系数与熵的关系
首先来看二者的基本定义:
⎧
⎩
⎨
⎪
⎪
⎪
⎪
⎪
⎪
⎪
⎪
⎪
⎪
H
(
X
)
=
−
∑
k
=
1
K
p
k
ln
p
k
Gini
(
X
)
=
∑
k
=
1
K
p
k
(
1
−
p
k
)
将
f
(
x
)
=
−
ln
x
在
x
=
1
处进行一阶泰勒展开(忽略高阶无穷小):
f
(
x
)
=
=
=
f
(
x
0
)
+
f
′
(
x
0
)
(
x
−
x
0
)
+
o
(
⋅
)
f
(
1
)
+
f
′
(
1
)
(
x
−
1
)
+
o
(
⋅
)
1
−
x
因此,熵可近似转化为:
H
(
X
)
=
−
∑
k
=
1
K
p
k
ln
p
k
=
∑
k
=
1
K
p
k
(
−
ln
p
k
)
≃
∑
k
=
1
K
p
k
(
1
−
p
k
)
=
Gini
(
X
)
posted on
2017-03-23 11:57
未雨愁眸
阅读(
620
) 评论(
0
)
编辑
收藏
举报
会员力量,点亮园子希望
刷新页面
返回顶部