首页 > 试题广场 >

决策树的父节点和子节点的熵的大小关系是什么

[单选题]
决策树的父节点和子节点的熵的大小关系是什么
  • 两者相等
  • 子节点的熵更大
  • 父节点的熵更大
  • 不确定
在特征选择时,应该给父节点信息增益最大的节点,而信息增益的计算为 IG(Y|X) = H(Y) - H(Y/X),H(Y/X) 为该特征节点的条件熵, H(Y/X) 越小,即该特征节点的属性对整体的信息表示越“单纯”,IG更大。 则该属性可以更好的分类。H(Y/X) 越大,属性越“紊乱”,IG越小,不适合作为分类属性。
发表于 2019-07-10 14:25:51 回复(0)
熵是描述混乱程度的,父结点熵肯定大于子结点的熵
编辑于 2021-02-24 11:11:06 回复(0)
决策树分解策略是保证子结点的熵小于父结点的熵。但“子结点的熵”是该父结点所有孩子结点的熵的总和,因此,并保证任意一个子节点的熵都小于父结点熵。
发表于 2019-06-28 17:36:07 回复(0)
决策树分解策略是保证子结点的熵小于父结点的熵。但“子结点的熵”是该父结点所有孩子结点的熵的总和,因此,并保证任意一个子节点的熵都小于父结点熵。
发表于 2019-07-18 13:31:10 回复(0)
个人觉得答案错了,你们觉得呢
发表于 2019-07-17 21:30:01 回复(0)
这个题答案是D:
假设一个父节点有2正3负样本,进一步分裂情况1:两个叶节点(2正,3负);情况2:两个叶节点(1正1负,1正2负)。分别看下情况1和情况2,分裂前后确实都有信息增益,但是两种情况里不是每一个叶节点都比父节点的熵小。
发表于 2019-07-02 18:10:39 回复(1)
答案不对吧。。。子节点熵应该小
发表于 2019-06-30 17:04:56 回复(1)