我在分类问题中使用带有nnet方法的插入符号包,并且我想知道nnet中用于停止训练以避免过度拟合的停止准则是什么。
我进行了一些研究,发现在RSNNS程序包中没有实现停止标准,但是考虑到以后的工作,请在此处查看:https://www.jstatsoft.org/index.php/jss/article/view/v046i07/v46i07.pdf
但是对于nnet软件包,我没有找到有关使用的停止标准或是否使用了停止标准的任何信息。所以,我的问题是。 nnet软件包中使用的停止标准是什么?
谢谢!!!
最佳答案
nnet程序包中使用的停止标准由abstol
函数的reltol
和nnet()
参数定义。
abstol
Stop if the fit criterion falls below abstol, indicating an essentially perfect fit.
reltol
Stop if the optimizer is unable to reduce the fit criterion by a factor of at least 1 - reltol.
(从https://cran.r-project.org/web/packages/nnet/nnet.pdf复制)
它们的默认值为:abstol = 1.0e-4; reltol = 1.0e-8
拟合标准是地面真实情况与网络输出之间的某种误差。它是迭代最小化目标函数的一部分。
关于拟合标准存在一个问题,部分回答如下:
https://stats.stackexchange.com/questions/156117/what-is-the-value-of-fitting-criterion-on-the-nnet-package-in-r