在培训期间，MSE是否有可能增加？
我目前正在计算每个时期的验证集的MSE，在某个特定时间点，MSE开始增加而不是减少。有人对此行为有解释吗？
最佳答案
回答您的问题：是的，有可能。
如果您使用正则化训练或随机训练，则在训练时，MSE会出现一些起伏是正常的。
问题的一些可能原因
您使用的学习率太高，导致出现超出成本函数的局部最小值的问题。
神经网络过度拟合。训练过多，失去了泛化的能力。
您可以尝试的方法：
当这种情况开始发生时，请降低学习速度。
在您的网络上应用某种形式化的规则化，例如辍学，以避免过度拟合。
关于machine-learning - 神经网络训练期间的MSE，我们在Stack Overflow上找到一个类似的问题：https://stackoverflow.com/questions/38642677/