vw-hypersearch是Vowpal Wabbit包装器,用于优化大众模型中的超参数:正则化率,学习率和衰减,最小批量,自举大小等。

vw-hypersearch  1e-10  5e-4  vw  --l1 %  train.dat


此处%表示要优化的参数,1e-10 5e-4是搜索间隔的上下限。该库使用tutorial方法来最大程度地减少迭代次数。

但是,如果我想搜索多个超参数怎么办?从golden section search github问题讨论之类的资源中,我得到暗示,大众可能没有实现多维搜索方法。因此,唯一的出路是编写自己的特定于任务的优化器。我对吗?

最佳答案

现在,可以使用位于存储库中vw-hyperopt.py的模块/vowpal_wabbit/utl/来完成此操作。

在这里查看我的请求请求:https://github.com/JohnLangford/vowpal_wabbit/pull/867

在不久的将来,这将得到更好的记录。

关于machine-learning - Vowpal Wabbit中带有vw-hypersearch的多维超参数搜索,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/33242742/

10-12 19:34