AnythingLLM
AnythingLLM 是开源、可自托管的全功能本地 AI 聊天与知识库（RAG）桌面应用，支持文档上传、私有知识库构建、多模型切换、智能体技能与本地会议助理，所有数据在设备端处理，强调隐私与离线可用。
★
★
★
★
★
8.3
/10
免费
✓ 免费版
开源
价格模式
免费
价格区间
免费下载 + 开源自托管（MIT）；部分 Magic 高级功能标注 Pro
是否开源
是
GitHub Stars
64,000
🌏 中国可用性与平替
⚠️ 受限 / 需特殊网络
该工具在中国大陆可能受限，部分功能或访问需特殊网络环境；如不便，可参考下方国内平替。
国内平替（同类 · 中国可用）
Hugging Face
AI模型与数据集共享平台
LlamaIndex
连接数据与大语言模型的 RAG/智能体框架，并提供 LlamaCloud 文档解析、索引与企业级 RAG 云服务。
Ollama
本地一键运行开源大语言模型
Amazon Bedrock
Amazon Bedrock 是 AWS 提供的、用于在生产规模构建生成式 AI 应用与智能体的全托管平台，汇聚来自 Anthropic、Meta、Mistral、Cohere、Stability 及亚马逊自研等数百个基础模型，并提供模型评估与选型、AgentCore 智能体编排、知识库 RAG、微调、企业级护栏（Guardrails）与成本优化（模型蒸馏、提示缓存、智能路由），服务全球超 100,000 家组织，按调用量计费且新用户可获最高 200 美元试用抵扣。
智谱 AI
智谱 AI（Z.ai）是国产原创 GLM 大模型厂商，提供全模态大模型 API（MaaS）、智谱清言对话、ZCode 多智能体 Harness 与 AutoGLM 自主智能体；注册赠 2000 万 tokens 免费试用，覆盖 GLM-5.3（1M 上下文、强 Coding）、GLM-5V-Turbo 等模型，支持模型微调与企业级落地。
Open WebUI
Open WebUI（openwebui.com）是「自托管 AI 平台 / 界面」：一条命令（pip/Docker，约 60 秒）即可在你自己的机器或服务器上跑起来，连接任意模型（Ollama、OpenAI、Anthropic 及任意 OpenAI 兼容端点），本地与云端混合、数据留在你手里。能力完整且可扩展——RAG 检索、Agents（Tools/Functions/Python pipelines）、语音、视觉、联网搜索，并能用 Python 自写函数与工具、从社区库一键安装/共享；企业版还提供 SSO、RBAC、审计日志、数据驻留与离线/气隙部署。GitHub 154K+ stars、社区 500K+ 成员、下载 4 亿+，生态极强。许可证是自定义「Open WebUI License（非标准 OSI）」：个人自托管免费，商业/企业用途需授权。
Pinecone
为 AI 而生的全托管向量数据库（Pinecone，2019 年创立）：写入确认 <100ms、任意规模低延迟，索引自动平衡与后台升级，无需调优运维；新推 Nexus 代理知识引擎（单次查询交付治理化知识，官方称比 agentic RAG 快 30x、token 省 90%、准确率高 20%），支持 Claude Code / Cursor / Copilot / Codex / Gemini 插件集成；企业版含 SSO、RBAC、CMEK、私有网络与 SOC 2 II / HIPAA / GDPR / ISO 27001 合规；首个 index 免费，之后按量付费
腾讯 ARC 实验室
腾讯官方 AI 研究实验室（ARC Lab），自 2019 年起持续输出前沿论文并开源 70+ 项目，提供 InstantMesh、YOLO-World、PhotoMaker、DepthCrafter 等覆盖 3D、图像、视频的模型与在线体验
核心功能
👍 优点
- + 数据全本地处理，极致隐私，无账号/密钥/额度
- + 开源免费（MIT）且可自托管多用户
- + 功能全面：文档RAG、知识库、会议助理、Agent 技能
- + 跨平台桌面（macOS/Win/Linux）与 Docker，开箱即用
👎 缺点
- - 性能依赖本机硬件，需本地算力
- - 部分 Magic 功能标 Pro，可能限免
- - 仅桌面/Docker，无移动端支持
- - 企业级 SLA/官方保障未明确
适合人群
最适合： 注重隐私的个人或团队、需离线处理文档与会议的开发者、欲自托管 AI 助理的组织
不适合： 无本地算力且需重型模型者、纯移动端用户、依赖托管云 AI 客服的企业