来自 Letta.
AI Agents 技术栈的演变与未来展望
近年来，人工智能领域的快速发展催生了众多新技术和应用，其中 AI Agents 的崛起无疑是最为引人注目的趋势之一。Letta 最近发布的一份研究报告深入探讨了 AI Agents 的技术栈，提供了对这一生态系统的独特见解。本文将总结该报告的核心观点，分析 AI Agents 的发展现状及未来潜力。
AI Agents 的行业格局
虽然市场上已有多种 Agent 技术栈地图，但许多现有分类方式并未能有效反映开发者的真实使用情况。随着记忆管理、工具使用、安全执行和部署技术的进步，AI Agents 的生态系统正在不断演化。因此，Letta 在报告中分享了其基于多年经验的“Agent 技术栈图谱”，将其分为三个关键层级：Agent 托管/服务、Agent 框架以及大语言模型与记忆存储。
从大语言模型到 AI Agents
在 2022 年和 2023 年，大语言模型（LLMs）框架和 SDK 迅速崛起，例如 LangChain 和 LlamaIndex。同时，多个平台通过 API 提供大语言模型的使用和部署。进入 2024 年，市场对“Agent”及其复合系统的兴趣显著上升。虽然“Agent”的概念在强化学习等领域已有较长历史，但在后 ChatGPT 时代，这一术语的定义变得模糊，通常指的是能够自主执行任务的大语言模型系统。
AI Agents 的架构分析
AI Agents 的架构与传统大语言模型系统有显著不同，主要体现在状态管理和工具执行的复杂性上。Agent 需要保留历史记录、存储长期记忆，并能够安全地执行工具调用。以下是 AI Agents 架构的几个关键组成部分：
模型服务
AI Agents 的核心是大语言模型，通常通过付费 API 提供服务。OpenAI 和 Anthropic 是主要的闭源模型 API 提供商，而一些开源模型服务平台如 Together.AI 和 Fireworks 也在迅速发展。
存储
对于有状态的 Agent 来说，存储是一个基本构建块。向量数据库如 Chroma 和 Pinecone 常用于存储 Agent 的外部记忆，帮助其处理大规模数据和对话历史。
工具与库
AI Agents 相较于聊天机器人最大的区别在于其调用“工具”的能力。这些工具是通过结构化输出进行调用的，确保 Agent 能够安全有效地执行各种任务。
Agent 框架
Agent 框架负责协调大语言模型调用并管理 Agent 状态。不同框架在状态管理、上下文窗口结构及记忆管理等方面存在差异，影响了 Agent 的性能和扩展性。
Agent 托管与服务的未来
目前，大多数 Agent 框架仍处于开发阶段，通常在 Python 脚本或 Jupyter Notebook 中运行。未来，AI Agents 有望作为一种服务部署到本地或云基础设施中，通过 REST API 进行访问。这一转变将带来更高的灵活性和可扩展性，尽管在状态管理和安全执行方面仍面临挑战。
结论
AI Agents 的技术栈仍处于早期阶段，随着技术的不断进步，我们期待这一生态系统的扩展与演变。Letta 的研究报告为我们提供了宝贵的见解，帮助我们更好地理解 AI Agents 的发展趋势及其未来潜力。
联系作者
文章来源：特工宇宙
作者微信：
作者简介：Agent Universe，专注于智能体的AI科技媒体。