我想用NVIDIA卡进行一些GPU计算，并决定在配备2GB或4GB内存的GTX 960之间。我应该选哪一个？这些对于我可以用于迷你批次梯度下降的批次大小有什么不同？这种差异会很大吗？
谢谢你的回答。
最佳答案
最昂贵的操作之一是将数据处理到GPU设备或从GPU设备复制数据。因此，如果您希望使用大于2GB的数据集，则较大的内存将非常有用。您可以一次存储大量数据（最小批量大小的几倍），并且/或者如果需要频繁评估，则可以存储整个保留的数据集。当然，您始终可以使用往返于gpu（如果设备支持）或其他optimizations的异步复制，并且对于较小的mem当然也可以；但是，这增加了一些额外的复杂性，并且您使用的任何工具箱（如果适用）都可能无法利用此功能。