今天给大家介绍一款非常强大的开源 AI 应用 —— AnythingLLM，这是一个全功能的桌面端和 Docker AI 应用，内置 RAG（检索增强生成）、AI 代理、无代码代理构建器等功能，让你可以轻松打造属于自己的私有 ChatGPT。

项目概述

AnythingLLM 是由 Mintplex Labs 开发的全栈应用程序，可以将任何文档、资源或内容转换为 LLM 可以在聊天过程中使用的上下文。你可以自由选择使用哪个 LLM 或向量数据库，同时支持多用户管理和权限控制。

GitHub 数据：⭐ 54,000+ Stars | 🍴 5,800+ Forks | 📜 MIT 开源协议

核心特性

🆕 最新功能

  • 完整 MCP 兼容性 – 支持 Model Context Protocol
  • 无代码 AI Agent 构建器 – 可视化创建 AI 代理流程
  • 多模态支持 – 同时支持闭源和开源多模态模型

💡 主要功能

  • 文档智能对话 – 支持 PDF、TXT、DOCX 等多种文档格式
  • 工作区隔离 – 文档按工作区分类，互不干扰
  • 自定义 AI 代理 – 可浏览网页、执行各种任务
  • 网站嵌入组件 – 可嵌入到你的网站中使用
  • 多用户支持 – Docker 版本支持多用户和权限管理
  • 100% 云部署就绪 – 支持各大云平台一键部署
  • 完整开发者 API – 便于自定义集成开发

支持的模型和服务

大语言模型 (LLM)

支持几乎所有主流 LLM 服务商：

  • OpenAI / Azure OpenAI
  • Anthropic Claude
  • Google Gemini
  • DeepSeek
  • Mistral / Groq / Cohere
  • Ollama（本地运行）
  • LM Studio（本地运行）
  • 任何兼容 llama.cpp 的开源模型
  • 以及更多…

向量数据库

  • LanceDB（默认，无需额外配置）
  • PGVector / Pinecone / Chroma
  • Weaviate / Qdrant / Milvus / Zilliz

语音功能

  • 语音识别 (STT) – 浏览器内置 + OpenAI Whisper
  • 语音合成 (TTS) – OpenAI TTS、ElevenLabs、PiperTTS

部署方式

桌面版（推荐新手）

直接下载安装包，开箱即用，支持 Windows、macOS、Linux：

👉 下载桌面版

Docker 部署

# 拉取镜像
docker pull mintplexlabs/anythingllm

# 运行容器
docker run -d -p 3001:3001 \
  --name anythingllm \
  -v /path/to/storage:/app/server/storage \
  mintplexlabs/anythingllm

云平台一键部署

支持以下云平台的一键部署：AWS / GCP / Azure、Digital Ocean / Render.com、Railway / RepoCloud / Elestio

隐私与安全

AnythingLLM 非常注重隐私保护：支持完全离线运行、本地 LLM + 本地向量数据库、数据不会上传到任何服务器、可关闭匿名遥测数据收集。

AnythingLLM 是目前最全面的开源 AI 知识库解决方案之一，无论你是想搭建私有文档问答系统、企业知识库，还是个人 AI 助手，它都能满足你的需求。最重要的是，它完全开源免费，支持本地部署，保护你的数据隐私。如果你正在寻找一个功能强大、易于部署的 AI 知识库工具，AnythingLLM 绝对值得一试！

 

资源下载
GitHub
提示：如链接失效，请在评论区留言