AVX全称Advanced Vcetor Extension,是对SSE的后续扩展,主要分为AVX、AVX2、AVX512三种。在目前常见的机器上,大多只支持到AVX系列,因此其他SIMD扩展指令我们就先不学习了。

1. AVX系列

1.1 AVX

AVX使用了16个YMM寄存器,主要针对的是浮点数计算优化,支持32位单精度和64位双精度。AVX将打包长度由SSE的128位扩展为256位。

AVX主要有两个改进:

  • 256浮点打包数据长度。
  • 三位操作数:计算形式可以由先前的A = A + B改为A = B + C

AVX使用了SSE的128的寄存器,YMM寄存器的低位部分是XMM寄存器:

SIMD---AVX系列-LMLPHP

1.2 AVX2

AVX2是AVX指令的扩展,主要在整形数据方面做了完善:

  • 256位整形打包数据。
  • 算数运算支持完善。

1.3 AVX-512

AVX-512指令扩展主要把256位数据扩展到512位,在数据级并行又迈进了一步。AVX-512扩展包含好几个部分:

  • AVX-512 Foundation
  • AVX-512 Conflict Detection Instructions (CD)
  • AVX-512 Exponential and Reciprocal Instructions (ER)
  • AVX-512 Prefetch Instructions (PF)
  • AVX-512 Vector Length Extensions (VL)
  • AVX-512 Byte and Word Instructions (BW)
  • AVX-512 Doubleword and Quadword Instructions (DQ)
  • AVX-512 Integer Fused Multiply Add (IFMA)
  • AVX-512 Vector Byte Manipulation Instructions (VBMI)
  • AVX-512 Vector Neural Network Instructions Word variable precision (4VNNIW)
  • AVX-512 Fused Multiply Accumulation Packed Single precision (4FMAPS)
  • AVX-512 Vector Neural Network Instructions (VNNI)
  • AVX-512 Galois Field New Instructions(GFNI)
  • AVX-512 Vector AES instructions (VAES)
  • AVX-512 Vector Byte Manipulation Instructions 2 (VBMI2)
  • AVX-512 Bit Algorithms (BITALG)

但是只有Foundation部分是各实现保证支持的

2. AVX功能支持检测

不是所有机型都通用的指令集需要调用cpuid指令来检测:

    push ecx

    mov eax, 0
cpuid
cmp ecx, 1
jb notSupported // check if supports EAX=1 when using CPUID mov eax, 1
cpuid
and ecx, 0x18000000 // clear non-related bits
cmp ecx, 0x18000000 // check OSXSAVE and avx
jne notSupported mov ecx, 0
XGETBV // get XCR0 register value
and eax, 0x6
cmp eax, 0x6 // check XMM and YMM state
jne notSupported mov eax, 1
jmp done notSupported:
mov eax, 0 done:
pop ecx

根据Intel开发者指南,我们需要检测OSXSAVE、AVX、XMM state、YMM state这四个功能。cpuid隐式使用eax寄存器作为指令参数执行:当eax位0时,cpuid返回eax可传入最大值;传入1时,返回功能标记为,这时候我们通过检查ecx寄存器的第28、29位就可以判断是否分别支持OSXSAVE和AVX功能;之后我们要给ecx赋值0来作为参数调用XGETBV指令,这个指令返回结果的第2、3位表明XMM、YMM状态是否开启。

3. AVX优化使用

与之前的随笔一样,我们对10000000个单精度浮点数进行加操作,但是我电脑机型不支持AVX2,因此无法演示AVX系列的整数优化操作:

__m256 step = _mm256_set_ps(10.0, 10.0, 10.0, 10.0,
10.0, 10.0, 10.0, 10.0);
__m256* dst = reinterpret_cast<__m256*>(data);
for (unsigned i = 0; i < count; i += 8)
{
__m256 sum = _mm256_add_ps(*dst, step);
*dst++ = sum;
}

4. 运行结果

SIMD---AVX系列-LMLPHP

这个运行时间表明,有时候简单的使用AVX来进行计算优化并不一定会提升程序的运行效率,得深入分析,完整代码见链接

05-04 04:05