AnythingLLM

把文档问答、AI 智能体、定时任务和会议助手放进一个程序的本地优先 AI 应用；仓库 MIT 许可，桌面安装包另有专有条款开源

AnythingLLM 是 Mintplex Labs 出品的本地优先 AI 应用，把文档问答、AI 智能体、定时任务和会议助手放进同一个程序，可接本地模型，也可接各家云端模型。形态有三种：桌面应用、Docker 自托管和 Android 应用，另有托管的 Cloud 版。截至 2026-10-26，GitHub 最新发布为 v1.18.0，2026-10-14 00:15 (UTC+8) 发布，内置引擎从 Ollama 换成 AMD 的 Lemonade 加 llama.cpp。仓库为 MIT 许可，桌面安装包另受一份专有使用条款约束；Cloud 每月 $50 起。

编辑部更新于 2026 年 10 月 26 日阅读约 7 分钟

它解决什么问题

把内部文档接到大模型上问答，通常要拼好几样东西：模型、向量库、文档解析、对话界面和权限。AnythingLLM 把这些装进一个应用：上传 PDF、TXT、DOCX 等文档，建立工作区，就能针对文档对话并看到引用出处；同一界面里还有 AI 智能体、MCP 接入、定时任务和自定义技能。模型方面可用内置的本地引擎，也可接各家云端服务商。

官网主打的说法是完全在本机运行的私有 AI 助手，不需要账号、API 密钥，也没有 token 限额。

形态：

桌面应用：macOS 的 Apple Silicon 与 Intel、Windows 的 x64 与 ARM，以及 Linux 都有原生安装包。
Docker 自托管：支持多用户、权限、白标和网页嵌入聊天组件，这几项在 README 里标为仅 Docker 版提供。
Android 应用：独立仓库 anythingllm-mobile，GPL-3.0 许可。
Cloud：官方托管的多用户实例。

代码仓库是 Mintplex-Labs/anything-llm，2023-06-04 10:29 (UTC+8) 创建，主分支为 master。近期发布：v1.16.1 于 2026-08-28 00:42 (UTC+8)，v1.16.2 于 2026-09-23 03:06 (UTC+8)，v1.17.0 于 2026-10-02 06:17 (UTC+8)，v1.18.0 于 2026-10-14 00:15 (UTC+8)。

出品方是 Mintplex Labs, Inc.，即 LICENSE 版权行和桌面使用条款里的签约主体。据 YC 公司页，AnythingLLM 属 Summer 2022 批次，创始人 Timothy Carambat（简介为 Founder of Mintplex Labs Inc），团队规模 4 人。

AnythingLLM is designed as a local-first application.
AnythingLLM 自托管条款

核心能力

新的内置引擎。v1.18.0 把桌面版内置引擎从 Ollama 换成 Lemond，即 AMD 开源推理服务 Lemonade 的嵌入版，底层跑 llama.cpp；在 AMD Ryzen AI 机器上可用 FastFlowLM 跑 NPU，在骁龙设备上用 GenieX。官方博客给出的理由是 llama.cpp 的新模型和性能优化最先落地，而升级内置的 Ollama 时常把功能弄坏。老用户会看到引擎升级提示，升级会删掉旧引擎和用旧引擎下载的模型，工作区、对话和文档不受影响。

推理控制。v1.18.0 在对话输入框里加入推理强度或思考开关，本地和云端模型都适用，但只在能识别该模型支持情况时出现。

文档与检索。工作区内上传文档后可带引用回答；文档库与工作区分开管理，从工作区移除文档只删该工作区的向量，从文档库删除才会连同解析文件和缓存嵌入一起清除。

智能体与自动化。README 列出无代码智能体构建器、MCP 兼容、自定义智能体、动态模型路由、自动与手动记忆，以及按 cron 计划运行的定时任务。

桌面端的系统级功能。官网列出会议助手，标明不需要机器人进会、不经云端处理；v1.17.0 用 NVIDIA Nemotron 3 Diarization 和 Moondream Parakeet Redux 重做了这一功能。Magic 系列包括听写 Magic Echo、划词提问 Magic Beacon 和输入补全 Magic Tab，各有每日免费额度。

移动端。Android 应用可在手机上跑小模型，也可经局域网连接 LM Studio、llama.cpp、Ollama 或桌面版。

谁在用

官网写 GitHub 星标 67k 以上、贡献者 200 人以上、Docker 拉取 500 万次以上；Y Combinator 公司页写每月有超过 260 万人在桌面版和 Docker 上使用，并称这只是下限，因为多数用户关闭了遥测；桌面版隐私政策写下载量超过 100 万（均为官方自述）。截至 2026-10-26，GitHub API 显示 67,550 个星标、7,586 个 Fork；按 GitHub 账号计的贡献者为 271 个，连同未关联账号的提交者共 277 个。

组织侧，Cloud 页面面向团队，提供多用户与租户隔离、白标，Enterprise 档可做本地部署、SSO 和基于角色的访问控制。

和同类比

Open WebUI 同样是可自托管的对话界面，但许可证是在 BSD-3 基础上加了品牌保留条款：除 30 天内终端用户不超过 50 人、获得书面许可或持有企业许可的情况外，改动或去掉 Open WebUI 品牌构成重大违约。LM Studio 是闭源桌面应用，受自家应用条款约束，重心在下载和运行本地模型。Jan 是 Apache-2.0 许可的开源桌面应用。

AnythingLLM 的仓库为 MIT 许可，可自由修改和白标；功能上它把文档问答、智能体、定时任务和多用户权限放在同一应用里。桌面安装包另有专有条款。

适合与不适合

适合：

要把文档问答和 AI 智能体放在自有设备或自有服务器上的个人与团队；自托管条款写明，配合本地模型和本地向量库可在完全断网的环境运行。
需要多用户、权限和白标的团队：这些能力在 Docker 版里提供，Cloud 也有多用户与租户隔离。
希望本地模型开箱即用的桌面用户：内置引擎不需要另装推理服务，系统要求页给出的基础配置是 16GB 内存和 8 核 CPU。

不适合：

需要细粒度权限的组织：issue 1787 提出的细粒度访问控制需求自 2024-06-29 04:03 (UTC+8) 开立，截至 2026-10-26 仍未关闭。
需要正式 SLA 的自托管部署：自托管条款写明标准自托管版不提供 SLA，需另签企业协议。
需要 Pro 全部功能的 Linux 桌面用户：Pro 文档写明全部功能在 Windows 和 macOS 上可用，没有提到 Linux。

上手路径

桌面版。从下载页取对应系统的安装包，双击安装，不需要注册账号；新安装直接使用 Lemonade 引擎，首次可下载一个适配本机的小模型开始对话，也可在设置里接云端服务商的 API 密钥。

Docker 版。官方快速上手文档给出 Docker 启动命令，启动后在浏览器打开 http://localhost:3001；加上 -e ENABLE_BUILT_IN_LLM=true 可在容器里启用内置引擎，支持 NVIDIA、AMD 和 Intel 显卡。数据在重建容器或拉取新镜像后保留。另有 pg 镜像连接 PostgreSQL 与 PGVector。

关闭遥测。Docker 或服务端在 .env 中把 DISABLE_TELEMETRY 设为 true，或在应用侧栏的 Privacy 里关闭。

开发者从源码运行时，仓库是 monorepo，含 frontend、server、collector、docker、embed 和 browser-extension 六部分，先执行 yarn setup 生成各部分的 .env 文件。

定价与许可证

自托管和桌面版免费，付费部分在 Cloud 和 Pro：

Cloud Basic：每月 $50，自带 LLM API 密钥。
Cloud Pro：每月 $99，72 小时支持响应。
Enterprise：联系销售，含本地部署、定制 SLA、SSO 和基于角色的访问控制。
桌面版 Pro：解除 Magic Echo、Magic Beacon、Magic Tab 的每日上限，生成的文档不带 AnythingLLM 水印；购买后在设置中填入许可证密钥，许可证会定期联网校验，订阅过期后回到免费额度。官方写明今天免费的功能会一直免费。

许可证：仓库 LICENSE 为 The MIT License，版权行写 Mintplex Labs Inc.；自托管条款写 AnythingLLM core 以 MIT 提供。桌面版使用条款则授予个人或内部业务用途的非独占许可，并禁止修改、改编或制作衍生作品。Android 应用仓库为 GPL-3.0。

风险与局限

隐私方面，官方各处写法如下：下载页写 Nothing phones home；README 写明带有收集匿名使用数据的遥测，需要用 DISABLE_TELEMETRY 或应用内 Privacy 设置关闭。README 还列出关闭遥测后仍会出现的出站连接：所接的外部模型、嵌入模型或向量库服务商，cdn.anythingllm.com 的模型镜像，以及 GitHub 上用于 context window 缓存的文件。断网部署需手动准备嵌入和重排序模型。

许可证方面，官方各处写法如下：官网和自托管条款写 MIT；桌面版使用条款把软件的结构和源代码称为商业秘密，只给个人或内部业务用途的许可，并禁止衍生作品。

Cloud 的限制。托管实例没有 GPU，不提供内置 LLM；内置嵌入器处理超大文档会让实例崩溃并返回 502；出于安全原因不支持自定义智能体和 MCP。Cloud 条款写明用户数据归账户所有者，但授予平台改进的使用权，且官方可随时以任何理由取消订阅；取消后数据不保留。限制文档把档位叫 Starter 和 Professional，定价页叫 Basic 和 Pro。

数字。Y Combinator 页写 56K+ 星标，官网写 67k+，GitHub API 为 67,550；每月 260 万人和下载量超 100 万都是官方自述。

引擎迁移。v1.18.0 的升级会删除用 Ollama 下载的模型，需要在新引擎下重新下载；更新日志写明以后的版本会自动迁移。