常见问题：智能体设计模式
1. 什么是“智能体设计模式”？ 智能体设计模式是针对构建智能、自主系统（智能体）时遇到的一些常见问题而提出的一种可重用、高级别的解决方案。这些模式为设计智能体行为提供了一个结构化的框架，类似于软件设计模式为传统编程提供框架一样。它们帮助开发者构建更健壮、可预测和有效的AI智能体。
2. 本指南的主要目标是什么？ 本指南旨在提供一份实用、动手操作的入门指南，用于设计和构建智能体系统。它超越了理论讨论，提供了具体的架构蓝图，开发者可以使用这些蓝图以可靠的方式创建能够执行复杂、目标导向行为的智能体。
3. 本指南的目标读者是谁？ 本指南面向AI开发者、软件工程师和系统架构师，他们正在构建使用大型语言模型（LLM）和其他AI组件的应用程序。它适用于那些希望从简单的提示-响应交互过渡到创建复杂、自主智能体的开发者。
4. 讨论了哪些关键的智能体模式？ 根据目录，该指南涵盖了几个关键模式，包括：
- 反思能力： 智能体评估自身行为和输出的能力，以提升性能。
- 规划： 将复杂目标分解为更小、更易于管理的步骤或任务的过程。
- 工具使用： 智能体利用外部工具（如代码解释器、搜索引擎或其他API）来获取信息或执行自身无法独立完成的操作的模式。
- 多智能体协作： 指多个专业智能体共同协作以解决问题的一种架构，通常涉及一个“领导者”或“协调者”智能体。
- 人机协同： 将人工监督和干预与智能体行动相结合，允许对智能体的行动进行反馈、纠正和批准。
为什么“规划”是一个重要的模式？ 规划至关重要，因为它允许智能体处理复杂的多步骤任务，这些任务不能通过单一动作解决。通过制定计划，智能体可以保持连贯的策略，跟踪其进度，并以结构化的方式处理错误或意外障碍。这防止了智能体陷入“停滞”或偏离用户的最终目标。
智能体中“工具”与“技能”的区别是什么？ 虽然这两个术语经常被互换使用，但“工具”通常指的是智能体可以调用的外部资源（例如，天气API、计算器）。而“技能”则是一种更集成的能力，智能体通过学习获得，通常结合工具的使用和内部推理来执行特定功能（例如，“预订航班”的技能可能涉及使用日历和航空公司API）。
“反射”模式如何提升智能体的性能？ 反射模式充当一种自我校正的形式。在生成响应或完成任务后，智能体可以被提示回顾其工作，检查错误，根据某些标准评估其质量，或考虑替代方法。这种迭代优化过程有助于智能体产生更准确、相关且高质量的结果。
反射模式的核心理念是什么？ 反射模式赋予智能体回顾和评估自身工作的能力。智能体并非一次性生成最终输出，而是先生成一个草案，然后对其进行“反思”，识别出缺陷、缺失的信息或需要改进的领域。这种自我纠正的过程对于提高其响应的质量和准确性至关重要。
为什么简单的“提示链”不足以产生高质量输出？ 简单的提示链（即一个提示的输出成为下一个提示的输入）通常过于基础。模型可能只是重新表述其之前的输出，而没有真正地改进它。真正的反思模式需要更结构化的批判，引导智能体根据特定标准分析其工作，检查逻辑错误或核实事实。
本章中提到的两种主要反射类型是什么？本章讨论了两种主要的反射形式：
- "检查你的工作" 反思： 这是一个基本表格，其中智能体被要求审查并修复其之前的输出。这对于捕捉简单错误是一个良好的起点。
- “内部批评者”反思：这是一种更高级的形式，其中使用一个独立的“批评者”智能体（或专门的提示）来评估“工作者”智能体的输出。这个批评者可以给出特定的标准来寻找，从而实现更严格和有针对性的改进。
反思如何帮助减少“幻觉”？ 通过促使智能体回顾其工作，特别是通过将其陈述与已知来源进行比较或检查其推理步骤，反思模式可以显著降低幻觉（编造事实）的可能性。智能体被迫更加立足于提供的上下文，并减少生成无依据信息的情况。
反射模式可以多次应用吗？ 是的，反射可以是一个迭代的过程。智能体可以被设计成多次对其工作进行反思，每次循环都会进一步优化输出。这对于复杂任务尤其有用，因为第一次或第二次尝试可能仍然存在细微的错误或可以大幅改进。
在人工智能智能体背景下，什么是规划模式？ 规划模式涉及使智能体能够将一个复杂的高级目标分解为一系列较小的、可执行的步骤。智能体不是一次性尝试解决大问题，而是首先创建一个“计划”，然后依次执行计划中的每个步骤，这是一种更加可靠的途径。
为什么复杂任务需要规划？ 大型语言模型在处理需要多个步骤或依赖的任务时可能会遇到困难。没有规划，智能体可能会失去对整体目标的把握，错过关键步骤，或者无法将一个步骤的输出作为下一个步骤的输入。规划提供了一条清晰的路线图，确保以逻辑顺序满足原始请求的所有要求。
什么是实现规划模式的一种常见方式？ 一种常见的实现方法是让智能体首先以结构化的格式（如JSON数组或编号列表）生成一系列步骤。然后系统可以遍历这个列表，逐个执行每个步骤，并将结果反馈给智能体，以便告知下一步行动。
智能体在执行过程中如何处理错误或变更？ 一个健壮的规划模式允许进行动态调整。如果某个步骤失败或情况发生变化，智能体可以被提示从当前状态重新“规划”。它可以分析错误，修改剩余步骤，甚至添加新的步骤来克服障碍。
用户是否看到该计划？ 这是一个设计选择。在许多情况下，首先向用户展示计划并获得其批准是一种很好的实践。这符合“人机协同”模式，在智能体执行行动之前，给予用户对智能体提议行动的透明度和控制权。
“工具使用”模式包含哪些内容？ 工具使用模式允许智能体通过与其他外部软件或API交互来扩展其功能。由于大型语言模型的知识是静态的，它无法独立执行现实世界的操作，因此工具可以使其获取实时信息（例如，Google搜索）、专有数据（例如，公司的数据库）或执行操作的能力（例如，发送电子邮件、预订会议）。
智能体是如何决定使用哪个工具的？ 智能体通常会收到一个包含可用工具列表以及每个工具功能描述和所需参数的清单。当智能体遇到其内部知识无法处理的请求时，其推理能力允许它从列表中选择最合适的工具来完成这项任务。
在此语境中提到的“ReAct”（推理与行动）框架是什么？ ReAct是一种流行的框架，它集成了推理和行动。智能体遵循一个循环，包括思考（推理它需要做什么）、行动（决定使用哪个工具以及输入什么）和观察（查看工具的结果）。这个循环会持续进行，直到它收集到足够的信息来满足用户的需求。
实施工具使用时面临哪些挑战？ 主要挑战包括：
- 错误处理： 工具可能会失败、返回意外的数据或超时。智能体需要能够识别这些错误，并决定是重试、使用不同的工具还是请求用户帮助。
- 安全：授予智能体访问工具（尤其是执行操作的工具）的权限具有安全影响。对于敏感操作，实施安全防护措施、权限控制以及通常需要人工批准至关重要。
- 提示：智能体必须被有效地提示，以生成正确格式的工具调用（例如，正确的函数名称和参数）。
什么是人机协同（HITL）模式？ 人机协同模式是一种将人类监督和交互整合到智能体工作流程中的模式。智能体并非完全自主，而是在关键节点暂停，请求人类反馈、批准、澄清或指导。
为什么HITL对智能体系统至关重要？ 这有以下几个关键原因：
- 安全和控制： 对于高风险任务（例如，金融交易、发送官方通讯），HITL确保在智能体执行其提议的操作之前，由人类进行验证。
- 提升质量：人类可以提供修正或细微的反馈，智能体可以利用这些反馈来提升其性能，尤其是在主观或模糊的任务中。
- 建立信任： 用户更倾向于信任并采用他们可以引导和监督的AI系统。
在哪些工作流程节点应该包含人类操作？ 常见的人类干预点包括：
- 计划审批： 在执行多步骤计划之前。
- 工具使用确认： 在使用具有现实世界后果或金钱成本的工具之前。
- 歧义解决： 当智能体不确定如何进行操作或需要从用户那里获取更多信息时。
- 最终输出审查： 在将最终结果交付给最终用户或系统之前。
持续的有人工干预不效率吗？ 这是有可能的，这就是为什么关键在于找到合适的平衡点。人机交互（HITL）应该在关键检查点实施，而不是针对每一个单独的动作。目标是建立人与智能体之间的协作伙伴关系，其中智能体处理大部分工作，而人提供战略指导。
什么是多智能体协作模式？ 该模式涉及创建一个由多个专门化智能体组成的系统，这些智能体共同协作以实现一个共同目标。而不是让一个“全能”智能体尝试做所有事情，你创建一个由“专家”智能体组成的团队，每个智能体都承担特定的角色或拥有特定的专长。
多智能体系统有哪些优势？
- 模块化和专业化：每个智能体都可以针对其特定任务进行微调和提示（例如，“研究者”智能体、“作家”智能体、“代码”智能体），从而实现更高品质的结果。
- 降低复杂性： 将复杂的流程分解为专业角色，使得整个系统更容易设计、调试和维护。
- 模拟头脑风暴： 不同的智能体可以就问题提供不同的观点，从而产生更具创造性和稳健性的解决方案，类似于人类团队的工作方式。
什么是多智能体系统的常见架构？ 常见的架构包括一个编排智能体（有时称为“管理者”或“指挥者”）。编排智能体理解整体目标，将其分解，并将子任务委托给适当的专家智能体。然后，它从专家智能体那里收集结果，并将它们综合成一个最终输出。
智能体之间是如何进行通信的？ 通信通常由编排器管理。例如，编排器可能会将“研究员”智能体的输出作为上下文传递给“作家”智能体。另一个常见的通信方法是共享的“草稿本”或消息总线，智能体可以在其中发布他们的发现。
为什么评估智能体比评估传统软件程序更困难？ 传统软件具有确定性输出（相同的输入总是产生相同的输出）。智能体，尤其是使用LLM的智能体，是非确定性的，其性能具有主观性。评估它们需要评估其输出的 质量 和 相关性，而不仅仅是它是否在技术上“正确”。
评估智能体性能的常见方法有哪些？ 指南建议了几种方法：
- 结果导向评估： 智能体是否成功实现了最终目标？例如，如果任务是“预订航班”，是否真的正确预订了航班？这是最重要的衡量标准。
- 基于过程的评估： 智能体的过程是否高效且逻辑？是否使用了正确的工具？是否遵循了合理的计划？这有助于调试智能体可能失败的原因。
- 人工评估： 让人类根据一定的标准（例如，1-5分）对智能体的性能进行评分，如实用性、准确性和连贯性。这对于面向用户的应用至关重要。
什么是“智能体轨迹”？ 智能体轨迹是智能体在执行任务过程中所有步骤的完整日志。它包括其所有思考、动作（工具调用）和观察。分析这些轨迹是调试和了解智能体行为的关键部分。
如何为非确定性系统创建可靠的测试？ 虽然您无法保证智能体输出的确切措辞，但您可以创建检查关键元素的测试。例如，您可以编写一个测试来验证智能体的最终响应是否包含特定信息，或者它是否成功以正确的参数调用了某个工具。这通常是通过在专用测试环境中使用模拟工具来完成的。
如何将智能体提示与简单的ChatGPT提示区分开来？ 智能体提示涉及创建一个详细的“系统提示”或宪法，作为其操作指令。这不仅仅是一个单一的用户查询；它定义了智能体的角色、其可用的工具、它应遵循的模板（如ReAct或规划）、其约束以及其个性。
一个优秀的智能体系统提示的关键组成部分有哪些？ 一个强大的系统提示通常包括：
- 角色与目标： 明确界定智能体的身份及其主要目的。
- 工具定义： 一份可用工具列表，包括它们的描述以及如何使用它们（例如，在特定的函数调用格式中）。
- 约束和规则： 对智能体不应执行的操作的明确说明（例如，“未经批准不得使用工具”，“不得提供财务建议”）。
- 过程指令： 指导使用哪些模式。例如，“首先，制定一个计划。然后，逐步执行计划。”
- 示例轨迹： 提供几个成功的“思考-行动-观察”循环的示例可以显著提高智能体的可靠性。
什么是“提示泄露”？ 提示泄露发生在系统提示的部分（如工具定义或内部指令）意外地出现在智能体对用户的最终响应中。这可能会让用户感到困惑，并暴露出底层实现细节。使用单独的提示进行推理和生成最终答案等技术可以帮助防止这种情况发生。
智能体系统未来的趋势有哪些？ 指南指向了一个拥有以下特点的未来：
- 更自主的智能体： 需要较少人工干预，并能自主学习与适应的智能体。
- 高度专业化的智能体： 一系列可以雇佣或订阅以执行特定任务（例如，旅行代理、研究代理）的智能体生态系统。
- 更先进的工具和平台： 开发更复杂的框架和平台，使构建、测试和部署稳健的多智能体系统变得更加容易。
