machine-learning - 在哪种情况下，交叉熵优于均方误差？

Closed. This question needs to be more focused。它当前不接受答案。












想改善这个问题吗？更新问题，使其仅关注editing this post的一个问题。

2年前关闭。



Improve this question




尽管以上两种方法都为更好的预测接近度提供了更好的分数，但是交叉熵仍然是首选。是在每种情况下还是在某些特殊情况下，我们都倾向于使用交叉熵而不是MSE？

最佳答案

分类首选交叉熵，而回归的均方误差是最佳选择之一。这直接来自问题本身的陈述-在分类中，您使用非常特殊的可能的输出值集，因此MSE定义不正确(因为它不具备此类知识，因此以不兼容的方式惩罚错误)。为了更好地理解现象，最好遵循并理解两者之间的关系。

交叉熵

逻辑回归(二进制交叉熵)

线性回归(MSE)

您会注意到，只要对因变量有不同的假设，两者都可以看作是最大似然估计量。