整体架构分层 小程序前端 ↔ 你的业务服务端 ↔ 自建 RAG 知识库服务云服务器部署 ↔ MiMo API 核心规则原始文档全存你服务器仅少量检索片段发给 MiMoAI 只能基于知识库作答无匹配内容直接拒绝禁止编造一、整体架构说明存储层你的云服务器 本地向量库 Qdrant 本地嵌入模型 BGE文档向量化不上传第三方存放产品手册、小程序操作 FAQ、业务规则、使用教程RAG 服务层云服务器 Docker 部署 FastGPT开箱即用 文档管理、分片、向量检索、提示词约束、对外标准问答 APILLM 层MiMo 云端 API 仅接收检索到的少量参考片段 用户问题不接触完整知识库业务层你的小程序后端 接收小程序用户提问转发至 RAG 服务接收回答后返回小程序增加鉴权、限流、日志小程序端 对话 UI、输入提问、展示 AI 回复、加载状态二、前期资源准备清单云服务器2 核 4GUbuntu/CentOS 均可无需 GPUMiMo 开发者账号获取API_KEY、接口地址兼容 OpenAI 格式知识库素材PDF/MD/TXT/Word小程序使用教程、常见问题、功能说明小程序后端服务自有提供接口转发安全组放行端口3000FastGPT、业务端口如 80/443三、步骤 1云服务器部署私有 RAG 知识库FastGPT Docker1.1 安装 Dockerbash运行curl -fsSL https://get.docker.com | sh systemctl start docker systemctl enable docker1.2 创建持久化目录并启动容器bash运行# 存放所有文档、向量、配置数据永久保存 mkdir -p /data/fastgpt docker run -d \ --name fastgpt \ --restart always \ -p 3000:3000 \ -v /data/fastgpt:/app/data \ ghcr.io/labring/fastgpt:latest1.3 安全组放行 3000 端口云服务商后台安全组开放入站 3000访问地址http://服务器公网IP:30001.4 初始化 FastGPT 基础配置首次访问注册管理员账号模型配置 → 添加模型选择 OpenAI 兼容格式模型名称mimo-pro接口地址https://api.mimochat.com/v1API Key你的 MiMo 密钥新建知识库分组小程序用户使用指南分类上传所有教程、FAQ 文档 上传后系统自动分片、本地 BGE 向量化全程文档不流出你的服务器四、步骤 2配置强制约束 Prompt杜绝 AI 编造核心关键4.1 创建应用小程序 AI 助手应用类型对话应用知识库关联绑定刚才创建的小程序知识库检索参数设置防幻觉第一层检索条数 k3相似度阈值0.6低于该分数直接判定无相关资料不调用 MiMo系统提示词完整复制强约束plaintext你是小程序专属使用助手严格遵守以下硬性规则违反规则视为回答错误 1. 你的全部回答只能依赖【参考资料】内的内容绝对禁止调用模型自身通用知识 2. 若参考资料为空、或与用户问题无关统一固定回复“抱歉暂未查询到相关使用说明你可以换个问题咨询” 3. 禁止拓展无关知识、主观猜测、编造功能、延伸行业内容 4. 回答简洁易懂贴合小程序操作场景关键操作步骤可引用原文 5. 用户询问知识库以外的闲聊、外部问题直接使用统一无资料话术拒绝回答。 【参考资料】 {context} 用户问题{question}关闭自动补充、关闭联网搜索保存应用4.2 获取 FastGPT 对外调用 API 凭证应用详情页 → API 访问复制接口地址API 密钥用于你的后端鉴权调用防止外部随意访问知识库五、步骤 3你的小程序后端对接 RAG 服务中间转发层作用隐藏 FastGPT 地址与密钥不暴露在小程序前端增加用户限流、会话记录、敏感词过滤统一返回格式适配小程序后端接口逻辑流程小程序传参用户 openid、提问内容后端校验用户登录、限制单用户每分钟提问次数组装请求体调用服务器上 FastGPT 的问答 API接收 FastGPT 返回结果直接透传给小程序入库保存对话日志方便后续优化知识库简易请求示例后端调用 FastGPThttpPOST http://服务器IP:3000/api/v1/chat/completions Header: Authorization: Bearer FastGPT生成的API密钥 Content-Type: application/json Body: { model: mimo-pro, messages: [ {role: user, content: 小程序怎么修改个人头像} ], stream: false }返回内容严格受 Prompt 控制无资料直接返回预设拒绝文案。六、步骤 4小程序前端 AI 对话页面开发基础交互逻辑聊天输入框、发送按钮、历史对话列表发送时展示 loading 加载动画接收后端返回文本渲染气泡支持清空对话、重新提问前端请求流程小程序前端 → 调用你自己业务后端接口不直接访问 FastGPT/MiMojs运行wx.request({ url: https://你的业务域名/api/ai/chat, method: POST, data: { question: 如何提现, openid: 用户唯一标识 }, success: res { // 渲染AI回答 } })七、完整数据流转全链路清晰看懂数据流向用户在小程序提问「怎么开启消息推送」请求到你的业务后端不接触第三方后端转发提问到你自有云服务器上的 FastGPT 服务FastGPT 本地向量库检索私有知识库筛选 3 条相似度达标文档片段原始完整文档仍保存在你的服务器不会上传仅把「约束提示词 3 条片段 用户问题」打包发送至 MiMo 云端 APIMiMo 按照强制规则生成回答不允许使用外部知识回答原路返回 FastGPT → 你的业务后端 → 小程序展示若检索相似度低于 0.6直接返回拒绝话术完全不调用 MiMo节省 Token 费用八、核心管控机制保证只按知识库回答三层防幻觉检索层拦截第一层设置相似度阈值 0.6无匹配直接截断不请求 MiMo从源头杜绝瞎编Prompt 强约束第二层硬性禁止使用模型自有知识规定无资料统一回复固定文案业务层兜底校验第三层可选上线加后端简单校验 AI 返回内容若出现知识库不存在的专有名词替换为拒绝话术九、日常运维 知识库更新流程新增小程序功能 / 更新教程 登录 FastGPT 后台上传新文档系统自动完成分片、向量化入库无需重启服务问答效果优化 查看对话日志用户频繁提问但库内无内容补充对应 FAQ 文档成本管控低相似度问题直接拦截减少 MiMo 调用限制单用户每日提问次数控制 Token 消耗数据备份 定期备份服务器/data/fastgpt文件夹防止文档、向量丢失十、方案优缺点总结优势知识库完全私有化存储在你的云服务器原始文档不外流不用 GPU 服务器普通 2 核 4G 云主机即可运行MiMo 推理能力强回答通顺专业远优于本地小模型严格限制 AI 仅使用自有资料不会随意编造小程序功能FastGPT 自带 API不用从零编写 RAG 代码快速对接小程序所有对外请求经过你的业务后端安全可控密钥不暴露前端短板每次问答会上传少量检索片段至 MiMo极度敏感内部数据不适用存在 MiMo 按量计费的 Token 成本用户量大成本会上涨十一、上线前安全避坑FastGPT API 密钥仅存于你的后端绝不暴露小程序前端云服务器 3000 端口仅允许你的业务后端服务器 IP 访问安全组白名单小程序后端增加限流防止恶意刷提问消耗 MiMo 额度业务接口增加 token 登录鉴权仅登录用户可使用 AI 助手禁止上传用户隐私信息到知识库仅存放产品使用文档