c - C代码循环性能[续]

这个问题在我的问题上继续(根据Mystical的建议):

C code loop performance

继续我的问题，当我使用打包指令而不是标量指令时，使用内在函数的代码将非常相似:

for(int i=0; i<size; i+=16) {
    y1 = _mm_load_ps(output[i]);
    …
    y4 = _mm_load_ps(output[i+12]);

    for(k=0; k<ksize; k++){
        for(l=0; l<ksize; l++){
            w  = _mm_set_ps1(weight[i+k+l]);

            x1 = _mm_load_ps(input[i+k+l]);
            y1 = _mm_add_ps(y1,_mm_mul_ps(w,x1));
            …
            x4 = _mm_load_ps(input[i+k+l+12]);
            y4 = _mm_add_ps(y4,_mm_mul_ps(w,x4));
        }
    }
    _mm_store_ps(&output[i],y1);
    …
    _mm_store_ps(&output[i+12],y4);
    }

尽管我希望它是标量版本性能的4倍，即每个周期4.1,6 = 6,4 FP ops，但该内核的测量性能约为每个周期5.6个FP操作。

考虑到权重因子的移动(感谢指出)，时间表如下:

尽管movss操作后还有一条额外的指令将标量权重值移动到XMM寄存器，然后使用shufps将标量值复制到整个 vector 中，但看起来时间表没有改变。考虑到从负载到浮点域的切换延迟，权重 vector 似乎已准备就绪，可以及时用于mulps，因此不会造成任何额外的延迟。

此内核中使用的movaps(对齐，打包移动)，addps和mulps指令(已通过汇编代码检查)与标量版本具有相同的延迟和吞吐量，因此也不应招致任何额外的延迟。

有人知道这个内核可以获得的最大性能是每个周期6.4 FP ops，并且每个周期以5.6 FP ops运行吗？

顺便说一下，这是实际的装配图:

…
Block x:
  movapsx  (%rax,%rcx,4), %xmm0
  movapsx  0x10(%rax,%rcx,4), %xmm1
  movapsx  0x20(%rax,%rcx,4), %xmm2
  movapsx  0x30(%rax,%rcx,4), %xmm3
  movssl  (%rdx,%rcx,4), %xmm4
  inc %rcx
  shufps $0x0, %xmm4, %xmm4               {fill weight vector}
  cmp $0x32, %rcx
  mulps %xmm4, %xmm0
  mulps %xmm4, %xmm1
  mulps %xmm4, %xmm2
  mulps %xmm3, %xmm4
  addps %xmm0, %xmm5
  addps %xmm1, %xmm6
  addps %xmm2, %xmm7
  addps %xmm4, %xmm8
  jl 0x401ad6 <Block x>
…

最佳答案

尝试在Vtune或其他等效工具(例如oprof)中使用EMON分析

Vtune for Linux(您可以搜索Windows版本)

oprofile

EMON(事件监视)配置文件=>类似于基于时间的工具，但它可以告诉您是什么性能事件导致了问题。虽然，您应该首先从基于时间的配置文件开始，以查看是否有特定的指令跳出。 (并且可能还有一些相关事件告诉您该IP上有多少退休摊位。)

要使用EMON分析，您必须遍历一系列事件，范围从“通常的可疑事件”到...

在这里，我将从缓存未命中，对齐开始。我不知道您使用的处理器是否具有针对RF端口限制的计数器-应该-但是我很早以前就添加了EMON分析，而且我不知道它们通过添加适用于微体系结构的事件来保持良好状态。

它也可能是前端，指令获取，停顿。无论如何，这些指令中有多少字节？也有EMON事件。

回应评论说Nehalem VTune看不到L3事件:不正确。这是我要添加评论的内容，但不合适:

实际上，有针对LL3 / L3 $ /所谓的Uncore的性能计数器。如果VTune不支持它们，我将感到非常惊讶。请参阅http://software.intel.com/sites/products/collateral/hpc/vtune/performance_analysis_guide.pdf，指向VTune和其他工具，例如PTU。实际上，即使没有LL3事件，正如David Levinthal所说:“英特尔®酷睿™i7处理器也会发生“延迟事件”，这是
与Itanium®Processor Family Data EAR事件非常相似。此事件样本
加载，记录指令执行与实际执行之间的周期数
传递数据。如果测得的延迟时间大于最小延迟时间
编程到MSR 0x3f6的位15:0中，然后计数器递增。计数器
溢出使PEBS机制武装起来，并在下一个事件满足延迟
阈值，测得的延迟，虚拟或线性地址以及数据源是
复制到PEBS缓冲区中的3个其他寄存器中。因为虚拟地址是
在捕获到已知位置后，采样驱动程序还可以执行虚拟
物理翻译并捕获物理地址。物理地址标识
NUMA主页位置，原则上可以分析缓存的详细信息
在第35页上，他还指向VTune事件，例如L3 CACHE_HIT_UNCORE_HIT和L3 CACHE_MISS_REMOTE_DRAM。有时您需要查找数字代码并将其编程到VTune的较低级接口(interface)中，但是我认为在这种情况下，它是可见的漂亮的用户界面。

好的，在俄罗斯的VTune程序员http://software.intel.com/en-us/forums/showthread.php?t=77700&o=d&s=lr中(我认为)“解释”您无法在Uncore事件上进行采样。

他错了-例如，您可以仅启用一个CPU，并进行有意义的采样。我还相信，当L3丢失的数据返回到CPU时，它可以对其进行标记。实际上，总体而言，L3知道它要将数据返回到哪个CPU，因此您可以肯定地进行采样。您可能不知道哪个超线程，但可以再次禁用它，进入单线程模式。

但是看起来，就像通常那样，您必须在VTune周围工作，而不是与此一起工作。

首先尝试延迟分析。这完全在CPU内部，VTune人士不太可能将其弄得太多。

而且，我再说一遍，可能是您的问题是核心问题，而不是L3。因此，VTune应该能够处理该问题。

尝试每个Levinthal的“周期会计”。

关于c - C代码循环性能[续]，我们在Stack Overflow上找到一个类似的问题：https://stackoverflow.com/questions/10007243/