我正在研究神经网络和正则化。我注意到有很多超参数需要手动设置，具体取决于您要解决的问题的类型，要处理的数据集等。
我想知道是否有一种方法可以创建另一个优化模型，以便它自动找到训练所需的最佳超参数？我的意思是，我们能够通过梯度下降或其他方法找到合适的权重。因此，如果我们能够在超参数上找到某种成本函数，我们是否能够做到这一点呢？基本上就像一个调整我们的AI模型的AI程序。
这样的事情是否可能发生，或者至少是一个有效的问题？也许这是我不知道的一些研究已经完成的？
最佳答案
是的，有可用的框架可以自动为您调整超参数。我是Optuna团队的成员，而Optuna（optuna.org）就是这样一种框架，它将进行贝叶斯优化以为您调整超参数。它可以与任何会丢失或准确输出的python程序一起使用。
关于machine-learning - 自动选择超参数，我们在Stack Overflow上找到一个类似的问题：https://stackoverflow.com/questions/59801147/