感谢:
XNOR-Net ImageNet Classification Using Binary Convolutional Neural Networks
XNOR-Net ImageNet Classification Using Binary Convolutional Neural Networks
本人想把算法思想实现在mxnet上(不单纯是一个layer),有意愿一起的小伙伴可以联系我,本人qq(邮箱):564326047(@qq.com),或者直接在下面留言。
一、Introduction
A. 相关工作
论文中提到了好几种加速DNN的方法,由于小w精力有限,并没有一一研读,有兴趣的大侠可以自行修行,下面只做一个简单的介绍。
B. 作者工作
二、Core Algorithm
先说明一下作者的符号约定,为简化起见,所有的符号仅表示一层的参数(文中作者一层和多层做了区分):
对于任意一层可以表示为一个三元组<I, W, *>
其中I
表示输入,W
表示这一层的参数,*
表示实数卷积操作。
A.Binary Convolutional Neural Network
2.训练
B.XNOR-Networks
2.训练