大卷积神经网络（ConvNets）近来受到了广泛研究关注，但存在两个未解决且需要进一步研究的关键问题。1）现有大卷积神经网络的架构主要遵循传统ConvNets或变压器的设计原则，而针对大卷积神经网络的架构设计仍未得到解决。2）随着变压器在多个领域的主导地位，有待研究ConvNets在视觉以外领域是否也具有强大的通用感知能力。在本文中，我们从两个方面做出了贡献。1）我们提出了四个设计大卷积神经网络的架构指导原则，其中的核心是充分利用大核与小核的本质特征之间的区别——它们可以广泛地看而无需深入。遵循这些指导原则，我们提出的大卷积神经网络在图像识别方面表现出色。例如，我们的模型在ImageNet准确度上达到了88.0％，在ADE20K mIoU上达到了55.6％，在COCO box AP上达到了56.4％，表现优于一些最近提出的强大竞争对手，且速度更快。2）我们发现大核是解锁ConvNets在其原本不擅长的领域中卓越性能的关键。通过一定的与模态相关的预处理方法，所提出的模型在时间序列预测和音频识别任务上即使没有对架构进行特定模态的定制化，也能达到最先进的性能水平。
论文地址：https://arxiv.org/pdf/2311.15599.pdf
代码地址：htt