当前位置: 首页> 财经> 访谈 > 上海市网站建设加盟_河北建造师网_发帖子最好的几个网站_给网站做seo的价格

上海市网站建设加盟_河北建造师网_发帖子最好的几个网站_给网站做seo的价格

时间:2025/7/9 5:48:01来源:https://blog.csdn.net/m0_56065966/article/details/143109399 浏览次数:0次
上海市网站建设加盟_河北建造师网_发帖子最好的几个网站_给网站做seo的价格

1.假设对函数y=2xTx关于列向量x求导

import torchx = torch.arange(4.0)
x

2.在计算y关于x的梯度之前,需要地方存储梯度

x.requires_grad_(True)
x.grad

3.计算y

y = 2 * torch.dot(x, x)
y

4.通过反向传播函数来自动计算y关于x每个分量的梯度

y.backward()
x.grad

x.grad == 4 * x

5.计算x的另一个函数

默认情况下,pytorch会积累梯度

x.grad.zero_()
y = x.sum()
y.backward()
x.grad

6.深度学习中,目的是计算批量中每个样本单独计算的偏导数之和

x.grad.zero_()
y = x * x
y.sum().backward()
x.grad

7.将某些计算移动到记录的计算图之外

x.grad.zero_()
y.sum().backward()
x.grad == 2 * x

8.即使构建函数的计算图需要通过Python控制流(条件、循环、任意函数调用),仍然可以技术得到变量梯度

def f(a):b = a * 2while b.norm() < 1000:b = b * 2if b.sum() > 0:c = belse:c = 100 * breturn ca = torch.randn(size=(),requires_grad=True)
d = f(a)
d.backward()a.grad == d / a

关键字:上海市网站建设加盟_河北建造师网_发帖子最好的几个网站_给网站做seo的价格

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com

责任编辑: