当前位置: 首页> 财经> 金融 > 损失函数与反向传播

损失函数与反向传播

时间:2025/7/11 10:29:42来源:https://blog.csdn.net/qq_37441377/article/details/141624521 浏览次数:0次

1.损失函数的作用

  • 计算实际输出和目标之间的差距
  • 为我们更新输出提供一定的依据(反向传播)

2.介绍几种官方文档中的损失函数

损失函数只能处理float类型的张量。

  • L1Loss (MAE):
    在这里插入图片描述
    在这里插入图片描述
import torch
from torch.nn import L1Lossinputs=torch.tensor([1,2,3],dtype=torch.float32)
targets=torch.tensor([1,2,5],dtype=torch.float32)inputs=torch.reshape(inputs,(1,1,1,3))
targets=torch.reshape(targets,(1,1,1,3))loss=L1Loss()
result=loss(inputs,targets)print(result)
  • MSELoss:
    在这里插入图片描述
loss_mse=nn.MSELoss()
result_mse=loss_mse(inputs,targets)
  • CrossEntropyLoss:
    该Loss算法计算输入对数与目标对数之间的交叉熵损失,在训练 C 类分类问题时非常有用。
    在这里插入图片描述
x=torch.tensor([0.1,0.2,0.3])
y=torch.tensor([1])
x=torch.reshape(x,(1,3))
loss_cross=nn.CrossEntropyLoss()
result_cross=loss_cross(x,y)

3.在神经网络中使用Loss Function

import torchvision
from torch import nn
from torch.nn import Sequential, Conv2d, MaxPool2d, Flatten, Linear
from torch.utils.data import DataLoaderdataset=torchvision.datasets.CIFAR10("data",train=False,transform=torchvision.transforms.ToTensor(),download=True)#每个批次中加载的数据项数量
dataloader=DataLoader(dataset,batch_size=1)class Tudui(nn.Module):def __init__(self):super(Tudui, self).__init__()self.model1=Sequential(Conv2d(3,32,5,padding=2),MaxPool2d(2),Conv2d(32,32,5,padding=2),MaxPool2d(2),Conv2d(32,64,5,padding=2),MaxPool2d(2),Flatten(),Linear(1024,64),Linear(64,10))def forward(self, x):x=self.model1(x)return xloss=nn.CrossEntropyLoss()
tudui=Tudui()
for data in dataloader:imgs,targets = dataoutputs =tudui(imgs)result_loss=loss(outputs,targets)print(result_loss)

在这里插入图片描述

4.grad梯度

result_loss.backward()

loss=nn.CrossEntropyLoss()
tudui=Tudui()
for data in dataloader:imgs,targets = dataoutputs =tudui(imgs)result_loss=loss(outputs,targets)result_loss.backward()print("ok")

Debug
在这里插入图片描述
在这里插入图片描述

优化器就是根据grad中的值进行优化loss
关键字:损失函数与反向传播

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com

责任编辑: