以下代码
w = np.array([[2., 2.],[2., 2.]])
x = np.array([[3., 3.],[3., 3.]])
b = np.array([[4., 4.],[4., 4.]])
w = torch.tensor(w, requires_grad=True)
x = torch.tensor(x, requires_grad=True)
b = torch.tensor(b, requires_grad=True)
y = w*x + b
print(y)
# tensor([[10., 10.],
# [10., 10.]], dtype=torch.float64, grad_fn=<AddBackward0>)
y.backward(torch.FloatTensor([[1, 1],[ 1, 1]]))
print(w.grad)
# tensor([[3., 3.],
# [3., 3.]], dtype=torch.float64)
print(x.grad)
# tensor([[2., 2.],
# [2., 2.]], dtype=torch.float64)
print(b.grad)
# tensor([[1., 1.],
# [1., 1.]], dtype=torch.float64)
由于
gradient
函数内的张量参数是输入张量形状的全张量,我的理解是w.grad
表示y
w.r.t w
的导数,并产生b
,x.grad
表示y
w.r.t x
的导数,并产生b
和b.grad
表示y
w.r.t b
的派生词,并产生全1。其中,只有第3点答案与我的预期结果相符。有人可以帮助我理解前两个答案吗?我想我了解积累部分,但不要认为这正在发生。
最佳答案
为了在此示例中找到正确的导数,我们需要考虑总和和乘积规则。
求和规则:
产品规则:
这意味着方程的导数计算如下。
关于x:
关于w:
关于b:
渐变准确地反映出:
torch.equal(w.grad, x) # => True
torch.equal(x.grad, w) # => True
torch.equal(b.grad, torch.tensor([[1, 1], [1, 1]], dtype=torch.float64)) # => True
关于python - 需要帮助了解pytorch中的梯度函数,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/62099030/