我根据本文档https://arxiv.org/pdf/1512.03385.pdf为cifar 10实施了ResNet。
但是我的准确性与文档中获得的准确性大不相同
我的-86%
个人电脑女儿-94%
我怎么了

https://github.com/slavaglaps/ResNet_cifar10

最佳答案

您的问题有点过于笼统,我认为网络过于适合训练数据集,因为您可以看到训练损失非常低,但是在第50个时期之后,验证损失不再改善。

我没有深入阅读该论文,所以我不知道他们是如何解决问题的,但是增加正则化可能会有所帮助。以下链接将为您指明正确的方向http://cs231n.github.io/neural-networks-3/

下面我复制了文本摘要:


  摘要
  
  训练神经网络:
  
  
  使用少量数据梯度检查您的实现,并注意陷阱。
  作为健全性检查,请确保您的初始损失是合理的,并且您可以在很小的一部分上达到100%的训练准确性
  数据
  在训练过程中,请监控损失,训练/验证的准确性,以及如果您觉得更怪异,请查看与
  参数值(应为〜1e-3),并且在处理ConvNets时,
  第一层重量。
  建议使用的两个更新是SGD + Nesterov Momentum或Adam。
  在培训期间降低学习率。例如,在固定次数后将学习率减半,或者
  只要验证准确性达到最高。
  使用随机搜索(而不是网格搜索)搜索良好的超参数。从粗略(超参数范围广,
  只能训练1-5个纪元),还可以(更窄的游骑兵,
  很多时代)
  表格模型合奏以提供额外的性能

关于machine-learning - ResNet如何实现文档中的准确性?,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/43355803/

10-12 20:26