最近在做DNN定点化相关的工作,DNN定点化就是把float表示的模型压缩成char表示,虽然会损失精度,但是由于DNN训练的模型值比较接近且范围较小,实际上带来的性能损失非常小。DNN定点化的好处是可以以4倍的效率压缩模型,这个在移动端会具有比较大的优势。
做完定点化之后,在x86服务器上验证没有问题,但是利用NDK移植到arm移动端却一直得不到正确结果,真是一时头大。通过仔细调试,最终发现问题所在—所有值为负的float值定点化成char之后都变为0!在网上搜了很久终于知道这个居然是arm平台本身的问题。Arm平台下,char默认其实是unsigned char,正是由于char是无符号的,导致一个不在范围内的数被强转时会产生未定义的行为,在Stack Overflow上有一个很好的解释。
找到问题所在,解决方法就非常简单,强制让arm平台下的char是有符号的,具体就是在编译的时候加-fsigned-char选项。