AnythingLLM15 分钟搭起私有文档问答知识库【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llm大模型再强答不上你自家文档里的问题就只是个聊天玩具。AnythingLLM 把 PDF、网页、视频统统转成模型能引用的上下文给你一个开箱即用的本地知识库LLM 可选本地或云端向量库即插即用回答还带来源引用。这篇文章只走一条最短路径——从拿到仓库到第一次文档问答外加模型选型结论和踩坑速查。 三条命令完成 AnythingLLM 容器部署你不需要装 Node、也不用手动编译前端仓库里已经放好了现成的 Dockerfile克隆下来直接起容器git clone https://gitcode.com/GitHub_Trending/an/anything-llm cd anything-llm docker compose up --build -d首次构建要拉基础镜像并编译 server、collector、frontend 三个服务耐心等几分钟。跑起来后浏览器打开http://localhost:3001会进入 onboarding 引导页先选向量库再选 LLM 提供商整个 AnythingLLM 部署就到位了。没有 Docker、想直接改源码的话就在仓库根目录yarn install后开三个终端分别跑yarn dev:server、yarn dev:collector、yarn dev:frontend端口不变体验一致。 喂数据把文件、网页、视频变成上下文没有上下文问答就是闲聊。在 workspace 页面顶部有三种导入入口按从易到难的顺序试本地文件——把 PDF、DOCX、TXT、EPUB、XLSX 直接拖进聊天窗口。后台的 collector 会按格式分发给对应的转换器做解析、切块、向量化每种格式一个独立转换器源码在collector/processSingleFile/convert/格式不识别时先来这里看支持列表。网页链接——粘贴博客、文档站 URL系统抓取后转成 Markdown 再入库也支持限定深度爬取整站以及对接 Obsidian、Confluence 这类知识源。视频——丢一个 YouTube 链接它提取字幕文本转成可检索内容适合把长视频变成可问答的资料。workspace 设置里能调切块参数默认 4000 token 一块、200 重叠。你的文档偏短小就把块调小一点检索命中率会明显变好。 挑模型、选向量库新手默认选什么仓库内置了 30 多个 LLM 适配器按部署位置归成两类就够用了LLM 类别代表提供商特点什么时候选本地推理Ollama、LM Studio、LocalAI、KoboldCPP零 API 费用数据不出局域网新手 隐私敏感默认选它云端 APIOpenAI、Gemini、Anthropic、Groq、DeepSeek稳定、不需要 GPU想 10 分钟跑通、愿意付费向量库这边一共 10 种实现差异主要在部署形态向量库部署形态适合谁LanceDB内置嵌入式不用起额外进程新手默认单用户本地知识库Chroma轻量独立服务小团队共享Qdrant / Milvus生产级支持横向扩展大文档量、上生产pgvector / Weaviate / Pinecone依赖现成 PG 或托管服务已有对应基础设施一句话结论Ollama或 LM Studio LanceDB零 GPU、零密钥摩擦最小手里已经有 OpenAI 密钥就换成云端 LLM LanceDB向量库别动。 如果你要多用户、改端口或上云这三样本地单人玩都可以不碰需要时再动手多用户权限管理是 Docker 版的能力。在docker/.env里设置AUTH_TOKEN触发首次引导流程之后在管理后台给用户开账号、按 workspace 分配访问权限。改端口默认3001声明在docker/docker-compose.yml把.env里的SERVER_PORT改掉再重启即可。上云cloud-deployments/目录备好了 AWS CloudFormation、GCP 和 Helm 模板。以 CloudFormation 为例上传模板文件后在控制台确认参数堆栈建好后Outputs 面板直接给出访问入口照着地址填浏览器就行注意 URL 还是 3001 端口的裸 HTTP正式暴露前建议前面挂一层带 TLS 的反向代理。⚠️ 踩坑速查现象可能原因处理浏览器打不开3001端口被其他服务占用改.env的SERVER_PORT后重启容器卡在 onboarding 引导页LLM 密钥没填或本地模型没启动引导页补密钥或确认 Ollama 已运行回答不引用你上传的文档换了 embedding 模型后与向量库不匹配workspace 设置里重设 embedding 并重新导入文件上传成功但无内容格式不在 collector 支持列表对照转换器目录确认格式换 TXT/PDF 重试多用户模式登录反复跳回JWT_SECRET缺失或太短生成 12 位以上随机串写进.env下一步把一份你真要查的文档——产品手册、合同、内部 wiki 都行——丢进 workspace问一个只有这份文档才能答上的问题。答案带上了来源引用闭环就成了接下来去试定时任务和 agent 流程让这个知识库自己干活。【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llm创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考