vw-hypersearch是Vowpal Wabbit包装器,用于优化大众模型中的超参数:正则化率,学习率和衰减,最小批量,自举大小等。
vw-hypersearch 1e-10 5e-4 vw --l1 % train.dat
此处
%
表示要优化的参数,1e-10 5e-4
是搜索间隔的上下限。该库使用tutorial方法来最大程度地减少迭代次数。但是,如果我想搜索多个超参数怎么办?从golden section search github问题讨论之类的资源中,我得到暗示,大众可能没有实现多维搜索方法。因此,唯一的出路是编写自己的特定于任务的优化器。我对吗?
最佳答案
现在,可以使用位于存储库中vw-hyperopt.py
的模块/vowpal_wabbit/utl/
来完成此操作。
在这里查看我的请求请求:https://github.com/JohnLangford/vowpal_wabbit/pull/867
在不久的将来,这将得到更好的记录。
关于machine-learning - Vowpal Wabbit中带有vw-hypersearch的多维超参数搜索,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/33242742/