如何证明信息增益一定大于0？ 时间：2026-11-08 15:55:00 浏览：906次 信息增益非负(不是大于0)，即给定概率密度 和 下式成立可以用Jensen不等式来证明。对于一个凸函数 ，应该满足因为 是一个凸函数，所以有Q.E.D.其中当 几乎处处成立时，等号成立。离散型的形式也可以类似得到，离散概率分布满足的不等式叫做Gibbs不等式。 标签：增益,大于,证明,机器学习,自然语言处理,决策树
