《12-Factor Agents》12. 将你的智能体打造成一个无状态归约器

如果你在等待 humanlayer 的介绍，那么现在就是了。如果你正在实践 要素 6 – 通过简单的 API 启动/暂停/恢复 和 要素 7 – 通过工具调用联系人类，那么你就已经准备好整合本要素了。 允许用户从 s...

与其构建试图包揽一切的单体式智能体，不如构建能把一件事做好的、小而专注的智能体。智能体只是一个更大、基本上是确定性的系统中的一个构建模块。 这里的关键洞见在于大语言模型的局限性：任务越庞大、越复杂，...

这一点内容不多，但值得一提。智能体 (agent) 的好处之一是“自我修复”——对于简短的任务，大语言模型 (LLM) 可能会调用一个失败的工具。优秀的大语言模型有很大机率能够读取错误信息或堆栈跟踪 (stack trace) ，并...

如果你能掌控自己的控制流，你就可以实现许多有趣的功能。 构建适合你特定用例的自定义控制结构。具体来说，某些类型的工具调用可能是跳出循环、等待人类响应或等待另一个长时间运行任务 (例如训练管道) 的理由。...

默认情况下，大语言模型 (LLM) API 依赖于一个根本性的高风险 Token 选择：我们是返回纯文本内容，还是返回结构化数据？ 你将很大的权重放在了第一个 Token 的选择上，在 the weather in tokyo 的情况下，这...

智能体就是程序，我们期望能以某种方式启动、查询、恢复和停止它们。 用户、应用程序、流水线以及其他智能体应该能通过简单的 API 轻松启动一个智能体。 当需要执行长时间运行的操作时，智能体及其编排确定性代码...

即使在 AI 领域之外，许多基础设施系统也试图将“执行状态”与“业务状态”分开。对于 AI 应用，这可能涉及复杂的抽象来跟踪当前步骤、下一步、等待状态、重试次数等信息。这种分离会带来复杂性，虽然可能物有所值，...

工具无需复杂。其核心只是来自你的大语言模型 (LLM) 的结构化输出，用于触发确定性代码。 例如，假设你有两个工具 CreateIssue 和 SearchIssues。要求一个大语言模型 (LLM) “使用多个工具之一”，其实就是要求它输...