【热门话题】PyTorch：深度学习领域的强大工具
🌈个人主页: 鑫宝Code 🔥热门专栏: 闲话杂谈｜ 炫酷HTML | JavaScript基础 💫个人格言: "如无必要，勿增实体" 文章目录 PyTorch：深度学习领域的强大工具一、PyTorch概述二、PyTorch核心特性详解三、PyTorch在深度学习应用中的实践四、PyTorch生态与社区五、总结 PyTorch：深度学习领域的强大工具 摘要：PyTorch作为深度学习领域备受青睐的开源库...
Pytorch入门实战: 06-VGG-16算法-Pytorch实现人脸识别
第P6周：VGG-16算法-Pytorch实现人脸识别 🍨 本文为🔗365天深度学习训练营 中的学习记录博客 🍖 原作者：K同学啊 🏡 我的环境： 语言环境：Python3.8 编译器：Jupyter Lab 深度学习环境：Pytorch torch==1.12.1+cu113 torchvision==0.13.1+cu113 一、 前期准备 1. 设置GPU 如果设备上支持GPU就使用GPU,否则使用C...
以pytorch pipeline并行为例,分析各kernel的耗时占比及性能瓶颈
以pytorch pipeline并行为例,分析各kernel的耗时占比及性能瓶颈 1.生成pipeline并行的测试代码2.pipeline profing3.生成nsys2json.py代码4.将nsys sqlite格式转chrome json格式5.生成耗时成分统计代码6.统计耗时成分7.耗时成分如下:8.查看GPU PCIE链路状态9.链路状态如下10.Nsight Compute查看Timel...
pytorch之torch.save()和torch.load()方法详细说明
torch.save()和torch.load()是PyTorch中用于模型保存和加载的函数。它们提供了一种方便的方式来保存和恢复模型的状态、结构和参数。可以使用它们来保存和加载整个模型或其他任意的Python对象，并且可以在加载模型时指定目标设备。 1.语法介绍 1.1 torch.save()语法 torch.save()函数用于将PyTorch模型保存到磁盘上的文件中，...
Transformer模型的Pytorch实现
Transformer的Pytorch实现有多个开源版本，基本大同小异，我参考的是这份英译中的工程。 为了代码讲解的直观性，还是先把Transformer的结构贴上来。 针对上述结构，我们从粗到细地来看一下模型的代码实现。 1. 模型整体构造 class Transformer(nn.Module): def __init__(self, encoder, decoder, src_embed, tgt_...
【AI系列】Torchvision、Torchaudio 和 Torchtext关系
博客目录 深度学习技术在人工智能领域的应用越来越广泛，而 PyTorch 作为一种流行的深度学习框架，为研究人员和开发者提供了强大的工具来构建和训练神经网络模型。在 PyTorch 生态系统中，有一些重要的扩展库，如 Torchvision、Torchaudio 和 Torchtext，它们与 PyTorch 密切相关，为用户提供了丰富的功能和工具。本文将探讨这些扩展库与 PyTorch 之间的对应关系，...
PyTorch+Transformers常用数据集+训练模型de傻瓜教程
文章目录 PyTorch+Transformers训练一个大语言模型傻瓜教程关于大语音模型的一些新闻相关库安装及库引用相关库作用库引用 大语言模型的数据集通常来源于多种多样的文本资源六类数据集类型常见数据集资源抱抱脸Hugging Face中集成的数据集pytorch中相关数据集 Alpaca数据集模型选择与训练训练参数设置TrainingArgumentsLoRAConfig 大语言模型训练时常用参数类...
《PyTorch 深度学习实战》- 第一章 深度学习回顾和PyTorch简介
《PyTorch 深度学习实战》- 第一章 深度学习回顾和PyTorch简介 1.1 PyTorch的历史 pytorch前身是Torch，Torch使用Lua和C语言，而后因为python的兴起，演变成为PyTorch。事实上，pytorch是提供动态图功能的chainer分支。 pytorch与2017年发布。 1.2 PyTorch 是什么 基于磁带的自动求导系统使Pytorch具有动态图功能。 关...
【PyTorch】进阶学习：一文详细介绍 torch.load() 的应用场景、实战代码示例
【PyTorch】进阶学习：一文详细介绍 torch.load() 的应用场景、实战代码示例 🌵文章目录🌵 🚀一、模型参数的加载与复用💡二、优化器的状态恢复📊三、数据集的加载与预处理🔄四、模型架构的迁移与微调💻五、实验结果的保存与加载🔧六、进阶技巧与扩展应用🌈七、总结与展望相关博客 🚀一、模型参数的加载与复用 在深度学习中，模型参数的加载与复用是一个非常重要的环节。torch.load() 函数正是我...
PyTorch深度学习实战（39）——小样本学习
PyTorch深度学习实战（39）——小样本学习 0. 前言1. 小样本学习简介2. 孪生网络2.1 模型分析2.2 数据集分析2.3 构建孪生网络 3. 原型网络3. 关系网络小结系列链接 0. 前言 小样本学习 (Few-shot Learning) 旨在解决在训练集中只有很少样本的情况下进行分类和推理的问题。传统的机器学习方法通常要求大量的标记样本来训练模型，但在现实世界中，很多场景下我们只能获得非...