在前面三篇文章中我们分别从系统架构层面对AI智能客服中的“机器幻觉”进行了拆解第一篇幻觉问题本质是系统问题而不是模型问题第二篇RAG与Chunk切分决定AI“能够获取什么信息”第三篇多轮对话中的上下文控制与意图管理在易科势腾的智能客服工程实践中一个反复出现的规律是很多“幻觉问题”并不是出在信息获取阶段而是出现在生成与输出阶段的控制不足。也就是说模型已经拿到了正确知识但仍然可能生成不准确的内容问题主要集中在两个关键环节Prompt约束机制输出后处理机制一、为什么Prompt是幻觉控制的第一道闸门在RAG系统中大多数团队关注的重点通常是检索是否命中Chunk是否合理rerank是否有效但在真实工程中经常出现一种现象检索结果是正确的但最终回答仍然偏离事实。根本原因在于 Prompt没有形成足够明确的行为约束边界1. Prompt的核心作用限制生成边界而不是“指导回答”很多人对Prompt的理解仍然停留在“告诉AI怎么回答问题”但在企业级智能客服系统中Prompt的真实作用是约束模型只能在指定信息范围内进行生成换句话说Prompt不是说明书Prompt是行为约束系统2. 常见失效的Prompt设计例如以下形式请根据以下内容回答用户问题 {context}这种写法在工程上存在明显问题没有限制必须基于context没有限制禁止外部知识补充没有定义信息不足时的处理方式结果模型容易进入 “基于上下文 额外推理补全”的生成模式3. 有效Prompt必须包含三类约束机制在易科势腾的智能客服优化实践中一个稳定的工程方案通常包含以下三层约束1信息来源约束只能基于以下内容回答问题2禁止外部补充不得使用未提供的信息进行推理或扩展3未知信息处理规则如果无法从提供内容中获取答案则返回暂无相关信息这三类约束的核心目标是将大模型从“自由生成模型”约束为“受限生成系统”二、为什么Prompt仍然无法完全解决幻觉问题即使Prompt设计合理在实际系统中仍然可能出现偏差长上下文导致约束弱化多轮对话中规则衰减检索噪声干扰生成模型自然推理突破边界因此工程上必须引入第二层能力输出后处理机制三、输出后处理系统的最后一道防线输出后处理的目标是在结果返回用户之前再进行一次事实一致性与结构校验1. 为什么必须引入输出后处理在易科势腾的智能客服系统中发现即使同时满足以下条件RAG检索命中正确Prompt约束设计合理多轮对话上下文正确仍然可能出现轻微事实偏移多Chunk信息混合非必要解释性扩展本质原因是 模型在生成阶段仍可能进行非必要推理扩展2. 输出后处理的三类核心机制1结构校验Schema Validation检查输出是否符合预定义结构例如{answer:,source:}如果结构不符合预期触发重试生成或直接降级返回2事实一致性校验Factual Consistency Check将生成内容与检索结果进行比对是否出现未在context中的实体是否新增未出现的规则性结论是否跨文档拼接信息若不一致 触发重新生成或拒答机制3置信度过滤Confidence Filtering对输出进行综合评分检索相关度生成一致性信息覆盖度当低于阈值时 不返回答案而返回标准兜底回复3. “拒答能力”是系统能力而不是失败表现在智能客服系统设计中一个关键认知是不回答比错误回答更重要因此在易科势腾的系统实践中通常采用如果无法确认答案则返回标准兜底语例如当前问题暂无相关知识支持请联系人工客服处理。四、Prompt 输出后处理双层控制体系单独来看Prompt负责“控制生成行为”输出后处理负责“控制最终结果”两者结合形成完整闭环用户输入 ↓ RAG检索 ↓ Prompt约束生成 ↓ 输出后处理校验 ↓ 最终结果返回五、为什么这一层决定系统可信度在智能客服系统中用户不会关心使用了什么模型embedding是否优化rerank是否先进用户只关心一件事这个回答是否可信而可信度的最后一层保障来自Prompt约束是否严格输出是否经过校验控制六、工程实践总结来自易科势腾在多项目实践中可以得到三个明确结论Prompt决定生成方向但无法单独保证输出正确性RAG决定信息来源但不保证表达正确性输出后处理决定最终系统可信度因此完整系统必须具备三层结构检索层RAG生成约束层Prompt输出治理层Post-processing七、结语AI智能客服中的“机器幻觉”本质上不是模型能力问题而是系统控制问题。当我们将控制点从模型本身扩展到整个链路时会发现真正降低幻觉的关键不是让AI更聪明而是让系统具备更强的约束能力。