我正在TensorFlow中寻找所谓的“DropConnect”。我知道如何在Tensorflow神经网络中使用“辍学”,但是我不知道哪种方法适用于“DropConnect”,或者如果不可用,有人可以建议我如何实现吗?
无论如何,我尝试过“辍学”,“体重下降”和“早停”,但我仍然因过度拟合而遭受痛苦。 TensorFlow是否有更好的过拟合解决方案?

最佳答案

DropConnect将网络中随机选择的权重子集设置为零。
您可以通过在训练过程中将每一层的权重比例视为零,并在反向传播期间更新所有权重来实现它。

此外,您还可以使用经典技术来避免过度拟合。

  • 收集更多数据,或通过各种数据转换方法创建它。
  • 减少功能数量。
  • 降低模型的复杂性。
  • 关于machine-learning - Tensorflow中的Dropconnect,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/37135885/

    10-12 17:01