成功解决ModuleNotFoundError: No module named ‘tensorboard‘
成功解决ModuleNotFoundError: No module named ‘tensorboard’ 📅2024年02月25日 🌈 个人主页：高斯小哥 🔥 高质量专栏：Matplotlib之旅：零基础精通数据可视化、Python基础【高质量合集】、PyTorch零基础入门教程 👈 💡 创作高质量博文，分享更多关于深度学习、PyTorch、Python领域的优质内容！（希望得到您的关注~） 🌵文章目录...
torch\tensorflow在大语言模型LLM中的作用
文章目录 torch\tensorflow在大语言模型LLM中的作用 torch\tensorflow在大语言模型LLM中的作用 在大型语言模型（LLM）中，PyTorch和TensorFlow这两个深度学习框架起着至关重要的作用。它们为构建、训练和部署LLM提供了必要的工具和基础设施。 首先，PyTorch和TensorFlow都提供了高级的API和工具，使得研究人员和开发人员能够更容易地构建复杂的神经网...
TensorRT及CUDA自学笔记005 GPU架构和线程束
TensorRT及CUDA自学笔记005 GPU架构和线程束 GPU架构 流处理器streaming multiprocessor （SM） 每一个SM包含整数个CUDA core、共享内存\L1缓存（shared memory\L1cache）、注册文件（Register File）、加载和存储单元（Load\Store Units）、特殊函数单元SFU（Special Function Unit）、Wa...
TensorRT及CUDA自学笔记006 PTX、PTX兼容性及二进制兼容性
TensorRT及CUDA自学笔记006 PTX、PTX兼容性及二进制兼容性 PTX定义 PTX是CUDA平台的一种虚拟机器和指令集，可以理解为一种CUDA平台的汇编语言使用C编写的CUDA程序首先被转换成PTX指令集，PTX指令在经过优化后再转换为特定GPU架构对应的指令集，nvcc在编译程序时通常需要指定目标虚拟机架构和真实GPU架构PTX并非物理的GPU，它是对GPU计算能力和特性的抽象定义 PTX作...
PyTorch训练，TensorRT部署的简要步骤（采用ONNX中转的方式）
1. 简述 使用PyTorch执行训练，使用TensorRT进行部署有很多种方法，比较常用的是基于INetworkDefinition进行每一层的自定义，这样一来，会反向促使研究者能够对真个网络的细节有更深的理解。 另一种相对简便的方式就是通过ONNX中间转换的形式。本文主要针对该途径进行简单的脉络阐述。 2. 导出ONNX 如果使用的是PyTorch训练框架，可采用其自带的ONNX导出API。 torch....
[PyTorch]PyTorch中张量(Tensor)拼接和拆分操作
PyTorch深度学习总结 第四章 PyTorch中张量(Tensor)拼接和拆分操作 文章目录 PyTorch深度学习总结前言一、张量拼接二、张量拆分 前言 上文介绍了PyTorch中张量(Tensor)的切片操作，本文主要介绍张量的拆分和拼接操作。 一、张量拼接 二、张量拆分 注意： torch.chunk()：当张量对应维度元素数量不足以拆分时，会按照可以拆分的最大数量进行拆分，且会出现不均等拆分情况...
【PyTorch】PyTorch中张量(Tensor)计算操作
PyTorch深度学习总结 第五章 PyTorch中张量(Tensor)计算操作 文章目录 PyTorch深度学习总结前言一、张量比较大小1、torch.allclose()2、torch.eq()和torch.equal()3、ge、gt、le、lt、ne函数4、torch.isnan() 二、基本运算1、四则运算(加减乘除)2、其他计算 前言 上文介绍了PyTorch中张量(Tensor)的拆分和拼接操...
政安晨：示例演绎TensorFlow的官方指南（三）{快速使用数据可视化工具TensorBoard}
这篇文章里咱们演绎TensorFLow的数据可视化工具：TensorBoard。 在机器学习中，要改进模型的某些参数，您通常需要对其进行衡量。TensorBoard 是用于提供机器学习工作流期间所需测量和呈现的工具。它使您能够跟踪实验指标（例如损失和准确率），呈现模型计算图，将嵌入向量投影到较低维度的空间等。 准备环境 咱们基于本地环境尝试使用tensorboard（本地环境演绎，更有助于熟悉这套工具），不熟...
【PyTorch】张量(Tensor)的生成
PyTorch深度学习总结 第一章 Pytorch中张量(Tensor)的生成 文章目录 PyTorch深度学习总结一、什么是PyTorch？二、张量(Tensor)1、张量的数据类型2、张量生成和信息获取 总结 一、什么是PyTorch？ PyTorch提供了一种灵活的、动态的计算图模型，使得开发者可以方便地构建和训练神经网络模型。PyTorch采用了动态图的方式，即在运行时才构建计算图，这与静态图的框架...
TensorFlow训练大模型做AI绘图，需要多少的GPU算力支撑
TensorFlow训练大模型做AI绘图，需要多少的GPU算力支撑！这个问题就涉及到了资金投资的额度了。众所周知，现在京东里面一个英伟达的显卡，按照RTX3090(24G显存-涡轮风扇）版本报价是7000-7500之间。如果你买一张这样的单卡是可以勉强开始训练的。当然了，双卡更好了，可以并行训练。 训练大模型做AI绘图所需的 GPU 算力取决于多个因素，包括模型的大小、训练数据集的规模、训练批次的大小、训练时...