我正在将ARM ComputeLibrary集成到项目中。
它不是我熟悉语义的API，但是我正在通过文档和示例进行工作。
目前，我正在尝试将std::vector的内容复制到CLTensor。然后使用ARMCL GEMM操作。
我一直在构建一个MWE，如下所示，目的是使矩阵乘法起作用。
为了从标准C ++ std::vector或std::ifstream获取输入数据，我正在尝试基于this example shown in the docs的基于迭代器的方法。
但是，我一直遇到段错误。
源中有an example of sgemm 使用CLTensor，这也是我从中汲取灵感的地方。但是，它是从Numpy数组获取输入数据的，因此到目前为止，它与之无关。
我不确定在ARMCL中CLTensor和Tensor是否具有不相交的方法。但是我觉得它们属于通用接口ITensor。但是，对于基于迭代器的方法，我仍然找不到使用CLTensor而不是Tensor的等效示例。
您可以在下面看到我正在使用的代码，该代码在第64行（*reinterpret_cast..）上失败。我不完全确定它执行的操作是什么，但是我猜想我们有一个递增input_it的ARMCL迭代器n * m，每次迭代将该地址处CLTensor的值设置为相应的输入值。 reinterpret_cast只是为了使这些类型很好地配合使用？
我认为我的Iterator和Window对象还可以，但是不能确定。
#include "arm_compute/core/Types.h"
#include "arm_compute/runtime/CL/CLFunctions.h"
#include "arm_compute/runtime/CL/CLScheduler.h"
#include "arm_compute/runtime/CL/CLTuner.h"
#include "utils/Utils.h"
namespace armcl = arm_compute;
namespace armcl_utils = arm_compute::utils;
int main(int argc, char *argv[])
{
int n = 3;
int m = 2;
int p = 4;
std::vector<float> src_a = {2, 1,
6, 4,
2, 3};
std::vector<float> src_b = {5, 2, 1, 6,
3, 7, 4, 1};
std::vector<float> c_targets = {13, 11, 6, 13,
42, 40, 22, 40,
19, 25, 14, 15};
// Provides global access to a CL context and command queue.
armcl::CLTuner tuner{};
armcl::CLScheduler::get().default_init(&tuner);
armcl::CLTensor a{}, b{}, c{};
float alpha = 1;
float beta = 0;
// Initialize the tensors dimensions and type:
const armcl::TensorShape shape_a(m, n);
const armcl::TensorShape shape_b(p, m);
const armcl::TensorShape shape_c(p, n);
a.allocator()->init(armcl::TensorInfo(shape_a, 1, armcl::DataType::F32));
b.allocator()->init(armcl::TensorInfo(shape_b, 1, armcl::DataType::F32));
c.allocator()->init(armcl::TensorInfo(shape_c, 1, armcl::DataType::F32));
// configure sgemm
armcl::CLGEMM sgemm{};
sgemm.configure(&a, &b, nullptr, &c, alpha, beta);
// // Allocate the input / output tensors:
a.allocator()->allocate();
b.allocator()->allocate();
c.allocator()->allocate();
// // Fill the input tensor:
// // Simplest way: create an iterator to iterate through each element of the input tensor:
armcl::Window input_window;
armcl::Iterator input_it(&a, input_window);
input_window.use_tensor_dimensions(shape_a);
std::cout << " Dimensions of the input's iterator:\n";
std::cout << " X = [start=" << input_window.x().start() << ", end=" << input_window.x().end() << ", step=" << input_window.x().step() << "]\n";
std::cout << " Y = [start=" << input_window.y().start() << ", end=" << input_window.y().end() << ", step=" << input_window.y().step() << "]\n";
// // Iterate through the elements of src_data and copy them one by one to the input tensor:
execute_window_loop(input_window, [&](const armcl::Coordinates & id)
{
std::cout << "Setting item [" << id.x() << "," << id.y() << "]\n";
*reinterpret_cast<float *>(input_it.ptr()) = src_a[id.y() * m + id.x()]; //
},
input_it);
// armcl_utils::init_sgemm_output(dst, src0, src1, armcl::DataType::F32);
// Configure function
// Allocate all the images
// src0.allocator()->import_memory(armcl::Memory(&a));
//src0.allocator()->allocate();
//src1.allocator()->allocate();
// dst.allocator()->allocate();
// armcl_utils::fill_random_tensor(src0, -1.f, 1.f);
// armcl_utils::fill_random_tensor(src1, -1.f, 1.f);
// Dummy run for CLTuner
//sgemm.run();
std::vector<float> lin_c(n * p);
return 0;
}
最佳答案
您遗漏的部分（当然可以在文档中更好地解释它！）是您需要映射/取消映射OpenCL缓冲区，以使CPU可以访问它们。
如果您查看fill_random_tensor内的内容（这是cl_sgemm example中使用的内容，则会有一个呼叫tensor.map();
因此，如果在创建迭代器之前先map()缓冲区，那么我认为它应该可以工作：
a.map();
input_it(&a, input_window);
execute_window_loop(...)
{
}
a.unmap(); //Don't forget to unmap the buffer before using it on the GPU
希望这可以帮助