Letta

Letta 是一个围绕“有状态 LLM 应用”设计的开源框架，核心思路是让模型拥有可读、可改、可追溯的长期记忆，而不是每轮对话都从头开始。它源自 MemGPT 项目，由加州大学伯克利分校 Sky Computing Lab 孵化，代码托管在 GitHub（github.com/letta-ai/letta）。这篇内容面向想弄清 Letta 能做什么、值不值得投入时间试的开发者，也会讲到它的短板。

使用体验与适用人群

上手路径通常是先翻 GitHub 的 README 和文档，再决定用 Docker 还是 pip 安装。官方对生产环境更推荐 Docker，同时提供 CLI、API 服务器和 ADE（代理开发环境），用来创建、部署和管理代理。整体看，它把“记忆”当成一等公民：分层记忆块可以被代理自己修改、删除、检索，调试时能直接看到状态变化，比黑箱式的上下文拼接更容易定位问题。

优点在于机制透明、模型兼容面广，OpenAI、Anthropic、Ollama 和本地模型都能接；不足也比较明显——概念多、配置项多，第一次跑通往往要花点耐心。它还提供后台维护记忆的 sleep-time agent、多代理共享记忆块，以及读取外部文件夹处理 PDF、TXT、JSON 的能力，这些在同类 {{内链:开源 AI 框架}} 里算是比较完整的组合。

更适合这些人：

• 要做多轮长对话或文档分析、又不想反复往上下文里塞材料的开发者；
• 希望多个代理共享记忆、搭协作流程的团队；
• 偏好本地自托管、对数据流向有要求的项目；
• 想研究代理记忆机制、做实验对比的研究型用户。

动手前建议注意：

• 先核对版本号与最近更新时间，开源项目迭代快，文档和代码可能有滞后；
• 自托管时对镜像和依赖做安全扫描，别把未经审查的镜像直接放到生产环境；
• 不同模型供应商、数据库后端（如 PostgreSQL）的支持程度不一样，选型前看官方说明；
• 数据留存与合规要求因地区而异，涉及个人信息时以当地法规和实际页面条款为准；
• 云服务是否免费、免费额度多少，以实际页面为准。

常见问题 FAQ

• Letta 和 MemGPT 是什么关系？Letta 由 MemGPT 项目发展而来，后者提出的思路是让模型自己管理上下文，Letta 把这套思路做成了可部署的框架，具体沿革以官方说明为准。
• 用 Letta 需要付费吗？框架本身开源，但调用模型通常要自备 API Key；云服务的收费方式与免费额度以实际页面为准。
• 支持哪些模型？OpenAI、Anthropic、Ollama 以及本地模型都在支持范围内，可随时切换，但各家能力差异会影响实际效果。
• 不会写代码能用吗？提供了桌面版 UI，但记忆块、代理、工具这些概念仍需理解，零基础体验会比较吃力。

Letta 的价值在于把代理记忆这件事摊开给人看，适合当作记忆方案的参考实现或自托管底座，而不是开箱即用的成品。它更适合作为补充性渠道，配合团队已有的合规与技术流程一起用，别指望一次部署就解决所有上下文问题。