。 当你构建这样的应用程序时，管道中的步骤会编排应包含哪些服务、如何 “馈送” 数据以及数据将采用什么形式。 正如你可以想象的那样，这些都是复杂的操作，需要 API、数据结构、网络访问、安全性等等。 LangChain 是一个 Python 框架，可以帮助人们构建人工智能应用程序并简化所有需求，而无需编写所有小细节。 与 LLM 的互动就是一个例子。 一旦所有信息都以简洁的提示形式汇集在一起，你将需要将其提交给 L...

目录 1、简介 2、LangChain 的主要价值 3、模块  4、安装 4.1 python 版本安装 4.2 TypeScript 版本安装 npm 安装 yarn 安装 pnpm 安装 加载库 5、环境设置 6、构建一个应用程序 7、LLMs 8、提示模板 9、输出解析器 10、LLMs + 提示模板 + 输出解析器 1、简介 LangChain是一个用于开发由语言模型提供支持的应用程序的框架。它支持以下应用...

https://github.com/milvus-io/milvus/releaseshttps://github.com/milvus-io/milvus/releases 以下步骤均在Linux环境中进行： 将milvus-standalone-docker-compose.yml下载到本地。 1、新建一个目录milvus 2、将milvus-standalone-docker-compose.yml放到mi...

第六章，处理输入-链式 Prompt Chaining Prompts 在本章中，我们将学习如何通过将复杂任务拆分为一系列简单的子任务来链接多个 Prompt。 您可能会想，为什么要将任务拆分为多个 Prompt，而不是像我们在上一个视频中学习的那样，使用思维链推理一次性完成呢？我们已经证明了语言模型非常擅长遵循复杂的指令，特别是像 GPT-4 这样的高级模型。 那么让我们用两个比喻来解释为什么我们要这样做，来比...

第十一章，用 ChatGPT API 构建系统 总结篇 本课程详细介绍了 LLM 工作原理，包括分词器（tokenizer）的细节、评估用户输入的质量和安全性的方法、使用思维链作为 Prompt、通过链式 Prompt 分割任务以及返回用户前检查输出等。 本课程还介绍了评估系统的长期性能，以监控和改进表现的方法。 此外，课程也涉及到如何构建负责任的系统，以保证模型提供合理且相关的反馈。 ...

第二章 语言模型，提问范式与 Token 在本章中，我们将和您分享大型语言模型（LLM）的工作原理、训练方式以及分词器（tokenizer）等细节对 LLM 输出的影响。我们还将介绍 LLM 的提问范式（chat format），这是一种指定系统消息（system message）和用户消息（user message）的方式，让您了解如何利用这种能力。 一，环境配置 Helper function 辅助函数。 如...

第三章 评估输入-分类 在本章中，我们将重点讨论评估输入任务，这对于确保系统的质量和安全性至关重要。 对于需要处理不同情况下的许多独立指令集的任务，首先对查询类型进行分类，并以此为基础确定要使用哪些指令，具有诸多益处。 这可以通过定义固定的类别和 hard-coding 与处理给定类别任务相关的指令来实现。 例如，在构建客户服务助手时，首先对查询类型进行分类，然后根据该分类确定要使用哪些指令，这一点可能非常重要。...

第八章 聊天机器人 使用一个大型语言模型的一个令人兴奋的事情是，我们可以用它来构建一个定制的聊天机器人 (Chatbot) ，只需要很少的工作量。在这一节中，我们将探索如何利用聊天的方式，与个性化（或专门针对特定任务或行为的）聊天机器人进行扩展对话。 像 ChatGPT 这样的聊天模型实际上是组装成以一系列消息作为输入，并返回一个模型生成的消息作为输出的。这种聊天格式原本的设计目标是简便多轮对话，但我们通过之前的...

第五章 推断 推断任务可以看作是模型接收文本作为输入，并执行某种分析的过程。其中涉及提取标签、提取实体、理解文本情感等等。如果你想要从一段文本中提取正面或负面情感，在传统的机器学习工作流程中，需要收集标签数据集、训练模型、确定如何在云端部署模型并进行推断。这样做可能效果还不错，但是执行全流程需要很多工作。 而且对于每个任务，如情感分析、提取实体等等，都需要训练和部署单独的模型。 LLM 的一个非常好的特点是，对于...

第三章，评估输入-分类 如果您正在构建一个允许用户输入信息的系统，首先要确保人们在负责任地使用系统，以及他们没有试图以某种方式滥用系统，这是非常重要的。 在本章中，我们将介绍几种策略来实现这一目标。 我们将学习如何使用 OpenAI 的 Moderation API 来进行内容审查，以及如何使用不同的 Prompt 来检测 Prompt 注入（Prompt injections）。 环境配置 参考第二章的 环境配...