大语言模型构建的主要四个阶段（各阶段使用的算法、数据、难点以及实践经验）
大语言模型构建通常包含以下四个主要阶段：预训练、有监督微调、奖励建模和强化学习，简要介绍各阶段使用的算法、数据、难点以及实践经验。 预训练 需要利用包含数千亿甚至数万亿 单词的训练数据，并借助由数千块高性能 GPU 和高速网络组成的超级计算机，花费数十天完成深 度神经网络参数的训练。这一阶段的核心难点在于如何构建训练数据以及如何高效地进行分布式 训练。 有监督微调阶段 ...
大语言模型LLM推理加速：Hugging Face Transformers优化LLM推理技术（LLM系列12）
文章目录 大语言模型LLM推理加速：Hugging Face Transformers优化LLM推理技术（LLM系列12）引言Hugging Face Transformers库的推理优化基础模型级别的推理加速策略高级推理技术探索硬件加速与基础设施适配案例研究与性能提升效果展示结论与未来展望 大语言模型LLM推理加速：Hugging Face Transformers优化LLM推理技术（LLM系列12） ...
AI 大语言模型安全测试
随着AI大语言模型的流行，关于LLM安全性越来越得到重视。LLM安全性是对正在使用的LLM的故障模式、导致故障的条件以及缓解措施的研究。 大语言模型可能无法以多种方式按预期或期望运行，这意味着他们无法得到信任。最重要的是，它们需要在软件（如 PyTorch、ONNX 或 CUDA）中运行，而这些沙盒可能并不安全。最后，当 LLM 以意外方式运行时，LLM 的部署方式及其输出的使用方式也可能失败，这也会带来安...
大语言模型LLM分布式训练：PyTorch下的大语言模型训练流程（LLM系列07）
文章目录 大语言模型LLM分布式训练：PyTorch下的大语言模型训练流程（LLM系列07）1. PyTorch DistributedDataParallel (DDP) 概述1.1 DDP的基本原理与实现机制1.2 初始化并使用`torch.nn.parallel.DistributedDataParallel`** 2. 构建BERT系列模型实例2.1 BERT架构解析2.2 利用PyTorch构建...
大语言模型LLM推理加速主流框架（LLM系列10）
文章目录 大语言模型LLM推理加速主流框架（LLM系列10）引言大语言模型推理基础LLM推理加速的主要途径模型优化技术硬件加速软件层面优化 主流LLM推理框架集成概述TensorRT-LLMPyTorch/TensorFlow Serving其他框架与工具 实例分析与应用案例** 大语言模型LLM推理加速主流框架（LLM系列10） 引言 大语言模型（Large Language Models, LLM），...
大语言模型LLM分布式训练：TensorFlow下的大语言模型训练实践（LLM系列05）
文章目录 大语言模型LLM分布式训练：TensorFlow下的大语言模型训练实践（LLM系列05）1. TensorFlow基础与`tf.distribute.Strategy`1.1 `MirroredStrategy`实现数据并行训练1.2 `MultiWorkerMirroredStrategy`应用于多节点并行训练 2. **构建GPT模型实例**2.1 GPT模型结构概览2.2 使用Tensor...
大语言模型LangChain + ChatGLM3-6B的组合集成：工具调用+提示词解读
文章目录 大语言模型LangChain + ChatGLM3-6B的组合集成：工具调用+提示词解读官方给出的提示词模板解读注解：1. 模板描述2. 工具调用规范3. 问题处理流程4. 最终响应5. 历史记录6. 实际应用举例 大语言模型LangChain + ChatGLM3-6B的组合集成：工具调用+提示词解读 官方给出的提示词模板 PROMPT_TEMPLATES[“agent_chat”] = { ...
大语言模型LLM分布式训练：PyTorch下的分布式训练（LLM系列06）
文章目录 大语言模型LLM分布式训练：PyTorch下的分布式训练（LLM系列06）一、引言二、PyTorch分布式训练基础三、PyTorch中实现数据并行训练四、优化分布式训练性能 大语言模型LLM分布式训练：PyTorch下的分布式训练（LLM系列06） 一、引言 1.1 分布式训练的重要性与PyTorch的分布式支持概览 在处理大数据集时，分布式训练通过将计算任务分散到多个GPU或节点上执行，极大地...
大语言模型LLM分布式训练：大规模数据集上的并行技术全景探索（LLM系列03）
文章目录 大语言模型LLM分布式训练：大规模数据集上的并行技术全景探索（LLM系列03）1. 引言1.1 大语言模型（LLM）的重要性及其规模化挑战1.2 分布式训练策略的需求 2. 分布式训练基础原理2.1 并行计算的基本概念与分类 3. LLM分布式训练的关键技术3.1 分布式同步训练算法3.2 参数服务器架构3.3 异步训练与优化策略3.4 超大规模LLM中的通信开销与梯度一致性解决方案 大语言模型...
torch\tensorflow在大语言模型LLM中的作用
文章目录 torch\tensorflow在大语言模型LLM中的作用 torch\tensorflow在大语言模型LLM中的作用 在大型语言模型（LLM）中，PyTorch和TensorFlow这两个深度学习框架起着至关重要的作用。它们为构建、训练和部署LLM提供了必要的工具和基础设施。 首先，PyTorch和TensorFlow都提供了高级的API和工具，使得研究人员和开发人员能够更容易地构建复杂的神经...