PyTorch Lightning 的简单使用示例
dom_splitfrom torchvision.datasets import MNISTfrom torchvision.transforms import ToTensorimport pytorch_lightning as pl torch 与 torch.nn：PyTorch 的核心库，用于张量操作和定义神经网络层。DataLoader、random_split：用于批量加载数据和将数据集分...
梯度计算（MATLAB和pytorch实例）
( 20 − 8 ) / 2 = 6 (20-8)/2=6 (20−8)/2=6; 所以点（2，3）的梯度： ▽ f = ( 4 , 6 ) ▽f=(4,6) ▽f=(4,6) ，与理论值一致。 使用pytorch进行验证 import torch # 定义变量并启用梯度跟踪x = torch.tensor(2.0, requires_grad=True)y = torch.tensor(3.0, requ...
矩阵的扩展运算（MATLAB和pytorch实例）
的两倍，所以行向量是线性相关的。同样，列向量的话，第二列是第一列的两倍，也是线性相关的。所以无论是行秩还是列秩都是1，因此矩阵B的秩是1。 MATLAB B=[1 2;3 4];r=rank(B) pytorch import torch # 定义一个 2x2 矩阵B = torch.tensor([[1.0, 2.0], [3.0, 4.0]]) # 计算行列式det_B = torch.linalg....
BUG解决：安装问题transformer_engine+pytorch
安装命令 pip install transformer_engine[pytorch] 或 pip install git+https://github.com/NVIDIA/TransformerEngine.git@main Cmake报错信息解决 如果出现cmake相关CUDA/CUDNN错误： （eg.缺少cudnn.h） 更改CUDA_PATH和CUDNN_PATH 版本检查CUDA 12.0+ ...
深度学习项目--基于LSTM的糖尿病预测探究(pytorch实现)
🍨 本文为🔗365天深度学习训练营 中的学习记录博客🍖 原作者：K同学啊 前言 LSTM模型一直是一个很经典的模型，一般用于序列数据预测，这个可以很好的挖掘数据上下文信息，本文将使用LSTM进行糖尿病预测(二分类问题)，采用LSTM+Linear解决分类问题； 📖 ：机器学习/数据分析案例—糖尿病预测; 👀 后面打算用机器学习(随机森林、SVM等)结合深度学习LSTM做一个比较完整的项目，大家可以关注一下哈;...
PyTorch ：梯度详解
PyTorch 中的 torch.Tensor 梯度详解 PyTorch 是一个广泛使用的深度学习框架，它以其动态计算图和强大的自动微分（Autograd）机制而闻名。在训练神经网络时，梯度计算是反向传播算法的核心。 目录 Tensor 与 requires_grad 属性动态计算图（Computational Graph）反向传播与梯度计算梯度的计算过程非标量输出的梯度计算控制梯度计算梯度的累积梯度的清零高...
PyTorch深度学习框架60天进阶学习计划第14天：循环神经网络进阶
PyTorch深度学习框架60天进阶学习计划第14天： 循环神经网络进阶 在深度学习处理序列数据时，循环神经网络(RNN)家族的模型扮演着至关重要的角色。今天，我们将深入探讨循环神经网络的进阶内容，包括BiLSTM的工作机制、注意力机制的数学原理，以及Transformer编码层的实现。 目录 BiLSTM的双向信息流机制 LSTM回顾BiLSTM架构解析时序特征融合策略BiLSTM实现与案例 注意力机制原理...
手撕Transformer编码器：从Self-Attention到Positional Encoding的PyTorch逐行实现
特征表示。它通过多层自注意力（Self-Attention）和前馈网络（FFN），逐步建模全局依赖关系，解决传统RNN/CNN的长距离依赖缺陷。 2. 编码器单层结构详解 每层编码器包含以下模块（附 PyTorch 代码）： 2.1 多头自注意力（Multi-Head Self-Attention） class MultiHeadAttention(nn.Module): def __init__(self, ...
【第8章：深度学习框架与工具—8.1 TensorFlow与PyTorch的对比与选择建议】
一、开篇故事：当AI工程师遇见"框架选择困难症" （用真实场景引出问题） 去年我帮朋友公司搭建图像识别系统时，CTO问了致命三连：“我们要用TensorFlow还是PyTorch？动态图真的比静态图快吗？听说PyTorch部署很麻烦是真的吗？” 这三个问题直接暴露了深度学习框架选择的复杂性——这不仅是语法差异，更是设计哲学的碰撞。 二、历史沿革：两大框架的基因密码 2.1 TensorFlow的工业血统 诞生...
pytorch引用halcon写数据集
****加粗样式虽然啰嗦一点，但好歹halcon自己熟悉，不会忘记，用os 和 pil会导致脑子记得东西太多 import halcon as haimport torchfrom torch.utils.data import Dataset path0 = r'E:\BaiduNetdiskDownload\cell'class MyDataset(Dataset): def __init__(se...