Letta 是目前最好的 AI Agent 框架吗？一份诚实的评测
更新于 2025年9月24日
8 分钟
Letta 评测：功能、定价、优缺点，以及它与 AI Agent 框架的比较
如果你正在构建有状态的 AI Agent——比如能够记住用户历史、编排工具和管理长期工作流程的助手——你可能已经听说过关于 Letta 的一些讨论（或者激烈的争论）。该平台一直被定位为一种以开发者为先的方式，用于构建具有高级记忆的有状态 LLM 应用。但 Letta 真的能在速度、记忆质量和开发者体验方面有所作为吗？
在这篇 Letta 评测中，我们将剖析它是什么，它擅长什么，它的不足之处，以及它与 Mem0、Zep、AutoGen、crewAI 和 LangGraph 的比较。我们还将分享 Letta 最适合哪些人，以及在全面投入之前需要考虑哪些因素。
风格说明：这篇评测采取了热情而详细的方式——期待实用的建议、细致的比较，以及来自公开讨论和开发者情绪的带有主观色彩的观点。
——快速结论
- Letta 在构建具有强大、对开发者友好的记忆以及兼顾开放工具和生产实用性的有状态 AI Agent 方面表现出色。
- 最适合关注结构化、可查询的记忆，并希望拥有一个可以扩展到超出玩具演示的 Agent 平台的团队。
- 如果你想要一个极其简单的即插即用记忆层，请尝试 Mem0。如果你需要研究级别的记忆复杂性，请考虑 Zep。对于 Agent 编排图，LangGraph 表现出色。对于多 Agent 模式，crewAI/AutoGen 仍然是流行的选择。
- 你仍然需要在向量存储、RAG 策略和可观测性方面做出选择。Letta 不会为你解决架构问题；它为你提供了一个强大的主干来实现它。
什么是 Letta？
Letta 是一个 AI 平台，用于构建具有高级记忆和 Agent 能力的有状态 LLM 应用。它专注于帮助开发者创建可以长期存在、回忆过去交互并在生产环境中可靠地使用工具的 Agent。它将自己定位为一个框架/平台，在开发者体验和实际部署需求之间取得平衡。
关键支柱（从公开产品描述和社区讨论中收集）：
- 具有持久记忆的有状态 Agent
- 具有检索支持的结构化记忆（实体、事实、事件）
- 工具使用和编排
- 用于构建生产级 LLM 应用的对开发者友好的模式
开发者怎么说
Letta 在 AI 开发社区中引发了一些关于记忆的激烈比较。一个值得注意的帖子将 Letta 与 Mem0 进行了对比——几乎就像一场摔跤比赛——指出了在记忆抽象和开发者控制方面不同的理念。同时，长篇的文章通常将 Letta 与 Mem0 和 Zep 并列为三种不同的方法：开放/社区主导的灵活性 (Letta)、务实的 SaaS 简单性 (Mem0) 和研究驱动的复杂性 (Zep)。
翻译：社区认为 Letta 是一条强大的中间道路——比即插即用的记忆层更结构化和可扩展，但不如研究繁重的堆栈那么复杂。
Letta 的核心功能（以及它们为什么重要）
- 高级的结构化记忆：不仅仅是转录转储。Letta 支持一个有组织的记忆模型——实体、事实、时间线——你可以查询和控制。当 Agent 需要跨会话保持一致的回忆和上下文积累时，这会带来回报。
- 工具使用和集成：Agent 可以可靠地调用工具（API、函数）。这是现代 Agent 的基本要求，但 Letta 的重点是你可以用于生产的可重复模式。
- 状态管理：长期存在的会话和跨对话的连续性。对于 CRM 助手、内部副驾驶和工作流程机器人至关重要。
- 可观测性钩子：当 Agent 超越聊天玩具时，日志记录、跟踪和可调试性非常重要。Letta 在这里倾向于开发者体验。
Letta vs 竞争对手：领先和落后之处
以下是基于公开信息和开发者情绪的主观分解。
Letta vs Mem0
- Mem0 是向 LLM 应用添加记忆的最快方式——轻量级、即插即用，具有合理的默认设置。Letta 提供更多的结构和控制，但会牺牲一些前期复杂性。
- 如果你想要快速实现价值和最少的配置，请选择 Mem0。如果你需要可查询的、结构化的记忆，使其成为你的 Agent 体验的核心差异化因素，请选择 Letta。
Letta vs Zep
- Zep 通过复杂的记忆检索和嵌入管道偏向研究级别。对于希望在没有大量复杂性的情况下进行控制的团队来说，它可能有点矫枉过正。
- 对于需要可解释和可维护的 Agent 的产品团队来说，Letta 更容易上手。如果你需要最前沿的记忆检索性能或实验性模式，Zep 可能是更好的选择。
Letta vs LangGraph
- LangGraph 在基于图的 Agent 编排（节点、边、控制流）方面表现出色。Letta 可以与 LangGraph 共存——或者替换其中的一部分——这取决于你的主要瓶颈是编排还是记忆/状态。
- 如果你的用例需要具有分支、重试和保护的复杂多步骤流程，LangGraph 很有吸引力。如果你的差异化因素是持久、值得信赖的记忆和身份，那么 Letta 的重点就很有吸引力。
Letta vs crewAI 和 AutoGen
- crewAI 和 AutoGen 普及了多 Agent 模式（角色、交接、反思）。Letta 可以互操作，但它的价值主张不是“更多 Agent”，而是“更智能、持久的 Agent”。
- 如果 Agent 之间的协作模式是核心，那么 crewAI/AutoGen 很强大。如果单个 Agent 记住数周的上下文是关键，那么 Letta 值得认真考虑。
优势
- 强大的记忆，感觉是为真实产品而设计的，而不是演示。
- 平衡的开发者体验——足够的抽象来快速移动，足够的控制来避免供应商锁定。
- 可以很好地作为 RAG + 工具 + 记忆模式的骨干。
- 活跃的社区兴趣和越来越多的比较，这是一个相关的良好信号。
局限性
- 不是即插即用的魔法棒；你仍然需要设计你的记忆模式和检索策略。
- 复杂的企业工作流程（图编排、人工参与、策略）可能需要与 LangGraph 或自定义控制器配对。
- 定价和托管模式可能因部署而异——团队应该评估 TCO 与更简单的记忆层相比（详细信息可能会发生变化；请查看官方页面或目录中的最新信息）。
Letta 最适合哪些人？
- 构建必须记住跨会话的用户的助手的产品团队（支持、销售、运营、开发者工具）。
- 需要结构化记忆层而无需采用完全定制的研究堆栈的初创公司。
- 需要可审计性和受控回忆的试点领域副驾驶的企业。
真实世界的用例
- 客户支持副驾驶，在安全地限定记忆范围的同时，回忆帐户上下文、先前的票证和偏好。
- 持久化项目更新、团队决策和任务状态的内部知识助手。
- 跟踪潜在客户互动并在正确的时间呈现关键事实的销售助手。
- 在几天内收集数据、调用工具并为人类总结结果的工作流程 Agent。
如何评估 Letta 以用于你的堆栈
- 尽早定义你的记忆模型
- Agent 应该记住什么？实体（人、公司）、事实（偏好）、事件（会议）、决策（批准）？
- 预先设计你的模式、保留策略和检索模式。
- 选择你的检索和向量存储策略
- 你需要混合搜索（BM25 + 密集）吗？
- 你将如何删除重复的事实并管理嵌入漂移？
- 与可观测性和测试配对
- 检测提示、工具调用和记忆写入。
- 为关键流程上的记忆回忆创建回归测试。
- 将编排复杂性与工具对齐
- 如果你需要分支图、重试和保护：请考虑使用 LangGraph 作为控制平面。
- 如果你需要多 Agent 交接：评估 crewAI 或 AutoGen 模式。
- 规划隐私和合规性
- 确定要持久化什么以及持久化多长时间。
- 在适当的地方实施 PII 删节和加密。
定价和部署说明
公共目录将 Letta 描述为一个用于构建有状态 LLM 应用和 Agent 的平台；具体的定价和部署模式可能会随着时间的推移而变化。始终通过供应商或更新的列表确认当前的详细信息。对于许多团队来说，关键的成本问题是结构化记忆层是否能够减少足够的工程时间来证明平台支出与推出自己的平台相比是合理的。
开发者体验：使用 Letta 构建的感觉
- 清晰的心理模型：Agent、记忆对象、工具和策略。
- 你可以控制写入记忆的内容以及检索方式，从而减少虚构的回忆。
- 因为 Letta 是为生产而设计的，所以你会发现更少的“演示优先”陷阱——比如记忆堆积而没有结构。
我们喜欢的一个典型模式：
- 将消息和工具结果规范化为结构化记忆（事实、实体）。
- 索引语义和符号引用。
- 在新的回合中，检索最少的、高信号记忆并将其作为上下文传递——而不是历史墙。
它在关键标准上的比较
- 记忆质量：强。结构化、可查询、可控制。
- 生产速度：中高，一旦设置了模式；需要一些前期设计。
- 工具编排：对于单个 Agent 来说很扎实；与编排器配对以进行复杂流程。
- 生态系统契合度：与 RAG、向量数据库、可观测性工具配合良好。
- 可维护性：良好。该结构减少了随时间的熵。
顺便说一句：使用 Sider.AI 构建得更快
值得注意的是——如果你正在试验多个框架或原型 Agent 流程，Sider.AI 可以帮助你通过上下文感知的 AI 辅助和直接在浏览器中进行的代码探索来更快地迭代。它可以方便地比较库、生成支架以及在进行过程中记录模式 (https://sider.ai/)。使用它来起草记忆模式、编写测试，甚至并排比较 Letta 与 LangGraph 样板。
建议
- 如果你的竞争优势取决于可靠的、结构化的记忆和长期存在的 Agent 状态，请选择 Letta。
- 将其与 LangGraph 配对以进行复杂的编排，或与 Mem0 配对以进行可以稍后迁移的快速启动试点。
- 对于研究繁重的记忆需求，请在 Letta 旁边测试 Zep，并测量召回精度、延迟和维护开销。
我们希望接下来看到什么
- 开箱即用的 PII 删节和差异保留的本机策略。
- 用于记忆正确性和漂移检测的一流评估工具。
- 与流行的可观测性堆栈和提示注册表的更紧密集成。
主要收获
- Letta 是一个强大、以生产为导向的选择，用于构建具有高级记忆的有状态 AI Agent。
- 它位于“简单的记忆插件” (Mem0) 和“研究繁重的平台” (Zep) 之间，提供了一个务实的中间地带。
- 深思熟虑地将 Letta 与编排工具 (LangGraph) 和测试/可观测性配对，以获得最大价值。
常见问题解答
问题 1：什么是 Letta，它是如何工作的？
Letta 是一个用于构建具有结构化、持久记忆和工具使用的有状态 AI Agent 的平台。它可以帮助开发者创建能够记住用户的历史并在对话期间检索相关事实的 Agent。
问题 2：Letta vs Mem0：哪个更适合 AI 记忆？
Mem0 非常适合快速、即插即用的记忆，设置最少，而 Letta 提供更结构化、可查询的记忆，适用于生产级 Agent。选择 Mem0 以实现快速价值，选择 Letta 以实现长期可维护性和控制。
问题 3：Letta 与 Zep 在 AI 记忆方面如何比较？
Zep 倾向于记忆检索中的研究级复杂性，这可能很强大，但也很复杂。Letta 通过在不增加过多开销的情况下为开发者提供结构化记忆来达到平衡。
问题 4：我应该使用 Letta 还是 LangGraph 进行编排？
如果你需要复杂的基于图的流程、分支和重试，请使用 LangGraph。如果你的主要需求是持久记忆和单 Agent 可靠性，请使用 Letta——两者可以在需要时配对。
问题 5：谁应该使用 Letta 来构建 AI Agent？
Letta 最适合构建必须跨会话持久化上下文的助手的团队，例如支持副驾驶、内部知识助手和销售 Agent。如果长期存在的记忆是你的差异化因素，那么 Letta 是一个不错的选择。
