基于YOLOv8的烟雾检测：自研模块 BSAM注意力 PK CBAM注意力，提升一个多点
💡💡💡本文全网首发独家改进：提出新颖的注意力BSAM（BiLevel Spatial Attention Module），创新度极佳，适合科研创新，效果秒杀CBAM，Channel Attention+Spartial Attention升级为新颖的 BiLevel Attention+Spartial Attention 1）作为注意力BSAM使用； 推荐指数：五星 BSAM VS CBAM ...
一文通透各种注意力：从多头注意力MHA到分组查询注意力GQA、多查询注意力MQA
第一部分 多头注意力 // 待更 第二部分 LLaMA2之分组查询注意力——Grouped-Query Attention 自回归解码的标准做法是缓存序列中先前标记的键 (K) 和值 (V) 对，从而加快注意力计算速度 然而，随着上下文窗口或批量大小的增加，多头注意力 (MHA)模型中与 KV 缓存大小相关的内存成本显着增长 对于较大的模型，KV 缓存大小成为瓶颈，键和值投影可以在多个头之间共享，而不会...
【深度学习 | Transformer】释放注意力的力量:探索深度学习中的 变形金刚，一文带你读通各个模块 —— 总结篇（三）
presentations from Transformers）：BERT是一种预训练的语言表示模型，通过双向Transformer编码器来学习句子的上下文相关表示。它利用了Transformer的自注意力机制和多层编码器的结构，通过大规模的无监督预训练和有监督微调，取得了在多项自然语言处理任务上的显著性能提升。 GPT（Generative Pre-trained Transformer）：GPT是一...
SE-NET se注意力机制应用于ResNet (附代码)
论文地址：https://arxiv.org/abs/1709.01507 代码地址：https://github.com/madao33/computer-vision-learning 1.是什么？ SE-NET网络是一种基于卷积神经网络的模型，它引入了SE（Squeeze-and-Excitation）块来增强通道之间的相互关系。SE块通过学习每个通道的重要性权重，使得有用的特征被放大，没有用的特...
YOLOv7改进---注意力机制： EMA基于跨空间学习的高效多尺度注意力、效果优于ECA、CBAM、CA | 小目标涨点明显 | ICASSP2023
💡💡💡本文属于原创独家改进：EMA基于跨空间学习的高效多尺度注意力、效果优于ECA、CBAM、CA EMA | 亲测在多个数据集实现暴力涨点，强烈推荐，独家首发； 收录： YOLOv7高阶自研专栏介绍： http://t.csdnimg.cn/tYI0c ✨✨✨前沿最新计算机顶会复现 🚀🚀🚀YOLOv7自研创新结合，轻松搞定科研 🍉🍉🍉...
YOLOv8血细胞检测（12）：EMA基于跨空间学习的高效多尺度注意力、效果优于ECA、CBAM、CA | ICASSP2023
💡💡💡本文改进： EMA基于跨空间学习的高效多尺度注意力,以保留每个通道上的信息和降低计算开销为目标，将部分通道重塑为批量维度，并将通道维度分组为多个子特征，使空间语义特征在每个特征组中均匀分布。 EMA | 亲测在血细胞检测项目中涨点，map@0.5 从原始0.895提升至0.9 收录专栏： 💡💡💡YOLO医学影像检测：http://t.csdnimg.cn/N4zBP ✨✨✨实战医学影像检测项...
YOLOv7独家改进：Multi-Dconv Head Transposed Attention注意力，效果优于MHSA| CVPR2022
💡💡💡本文独家改进：Multi-Dconv Head Transposed Attention注意力，可以高效的进行高分辨率图像处理，从而提升检测精度 MDTA | 亲测在多个数据集能够实现大幅涨点 收录： YOLOv7高阶自研专栏介绍： http://t.csdnimg.cn/tYI0c ✨✨✨前沿最新计算机顶会复现 🚀🚀🚀YOLOv7自研创新结合，轻松搞定科研 🍉🍉🍉持续更新中，定期更新不...
YOLOv8血细胞检测（5）：可变形大核注意力(D-LKA Attention)，超越自注意力| 2023.8月最新发表
💡💡💡本文独家改进：可变形大核注意力（D-LKA Attention），采用大卷积核来充分理解体积上下文的简化注意力机制，来灵活地扭曲采样网格，使模型能够适当地适应不同的数据模式 D-LKA Attention | 亲测在血细胞检测项目中涨点，map@0.5 从原始0.895提升至0.903 收录专栏： 💡💡💡YOLO医学影像检测：http://t.csdnimg.cn/N4zBP ✨✨✨实战医学影...
Yolov8小目标检测（9）： EMA基于跨空间学习的高效多尺度注意力、效果优于ECA、CBAM、CA | ICASSP2023
💡💡💡本文改进： EMA基于跨空间学习的高效多尺度注意力 EMA | 亲测在红外弱小目标检测涨点，map@0.5 从0.755提升至0.766 💡💡💡Yolo小目标检测，独家首发创新（原创），适用于Yolov5、Yolov7、Yolov8等各个Yolo系列，专栏文章提供每一步步骤和源码，带你轻松实现小目标检测涨点 💡💡💡重点：通过本专栏的阅读，后续你可以结合自己的小目标检测数据集，在网络不同...
Yolov8小目标检测（22）：感受野注意力卷积运算（RFAConv），助力小目标检测
💡💡💡本文改进：感受野注意力卷积运算（RFAConv），解决卷积块注意力模块（CBAM）和协调注意力模块（CA）只关注空间特征，不能完全解决卷积核参数共享的问题 RFAConv | 亲测在红外弱小目标检测涨点明显，map@0.5 从0.755提升至0.765 💡💡💡Yolo小目标检测，独家首发创新（原创），适用于Yolov5、Yolov7、Yolov8等各个Yolo系列，专栏文章提供每一步步...