谁能解释一下或推荐我有关CUDA上下文的一些好信息?我搜索了CUDA开发人员指南,但对此不满意。
任何解释或帮助都会很棒。
最佳答案
cuda API公开了有状态库的功能:两个连续的调用彼此关联。简而言之,上下文就是它的状态。
runtime API是driver API的包装器/帮助器。您可以在驱动程序API中看到该上下文已明确可用,并且为了方便起见,您可以拥有一堆上下文。在驱动程序和运行时API之间共享一个特定的上下文(请参见primary context)。
上下文包含所有管理数据以控制和使用设备。例如,它保存分配的内存列表,包含设备代码的已加载模块,零拷贝的CPU和GPU内存之间的映射等。
最后,请注意,这篇文章更多是根据经验而不是经过证明的文档。