machine-learning - PyTorch中两个概率分布的KL发散

我有两个概率分布。我如何在PyTorch中找到它们之间的KL差异？常规互熵仅接受整数标签。

最佳答案

是的，PyTorch在kl_div下有一个名为torch.nn.functional的方法，可以直接计算张量之间的KL离散度。假设您具有相同形状的张量a和b。您可以使用以下代码：

import torch.nn.functional as F
out = F.kl_div(a, b)

有关更多详细信息，请参见上面的方法文档。