首页 > 试题广场 >

交叉熵公式

[问答题]

交叉熵公式

MuMaXu

发表于 2019-07-07 15:40:11 回复(0)

neekity

交叉熵
$H(p,q)=-\sum_{x}p(x)log(q(x))$
相对熵(KL散度)
$KL(p||q)=\sum_{x}p(x)log(p(x)/q(x))$

发表于 2019-04-14 14:44:39 回复(0)

牛客9649739号

https://blog.csdn.net/u010365819/article/details/87937183

发表于 2022-09-21 23:05:36 回复(0)

HuanRen

作为损失函数衡量真实分布和非真实分布之间的差异，所谓交叉的本质是用非真实分布表示真实分布时所需的平均编码长度（字节数），熵越小则两个分布越接近。

发表于 2020-04-01 14:56:46 回复(0)

++offer&&offer++

在分类问题上，交叉熵本质和KL一样。

发表于 2019-08-30 20:27:06 回复(0)

提交观点

问题信息

上传者：小小

难度：

5条回答 206收藏 2061浏览

扫一扫，把题目装进口袋