一句话先说结论你让多模态大模型看图回答问题它经常“说瞎话”——比如图里明明没有卡车它偏说有。云南大学团队发现**这种幻觉不是一种病而是两种病——注意力走神和闭眼答题。**他们设计了两个“体温计”实时监测一发烧就对症下药。不用重新训练模型推理时即插即用效果全面碾压现有方法。两种失败模式 两个诊断指标 两剂靶向药 推理时即插即用的幻觉消除器注意力漂移左vs 视觉证据利用不足右多模态大模型的两种“病”以往的方法把幻觉当成一种病统一治疗就像医生不管你是发烧还是骨折统一开退烧药。作者通过实验发现幻觉有两种完全不同的根因失败模式现象比喻注意力漂移注意力突然从相关区域散开或跳到无关区域考试时走神看错题视觉证据利用不足输出越来越不依赖图片纯靠语言先验脑补闭着眼凭经验答题两个“体温计”实时诊断体温计 1VAE视觉注意力熵衡量注意力有多集中。正常时随网络变深而降低突然飙升 注意力散了 即将走神。体温计 2OIC输出-图像相关性衡量输出有多依赖图片。正常时逐步升高突然下降 开始闭眼答题 即将脑补。VAE 和 OIC 随网络层的变化趋势红点为异常两种异常发生时的注意力热力图与答案概率曲线两剂“靶向药”对症下药药方 1VAE 引导漂移纠正VAE-GDC病症注意力散了隐状态被高熵噪声污染。药方引入“描述性路径”用其稳定的隐状态校准被污染的隐状态。力度由分布距离动态调节。药方 2OIC 引导接地恢复OIC-GGR病症模型不再看图纯靠语言先验编造。药方找到还“记得看图”的中间层用对比解码把输出拉回视觉证据。DICA 整体架构实验结果POPE 物体存在性判断F1LLaVA-v1.5设定VCDOPERAMoDDICARandom84.2086.9286.0088.82Popular83.2086.6885.6087.50Adversarial84.0083.4582.3083.67CHAIR 幻觉率越低越好LLaVA-v1.5方法CHAIR_s ↓CHAIR_i ↓Recall ↑VCD51.014.977.2MoD42.612.478.9DICA41.811.577.8MME 综合评分越高越好LLaVA-v1.5方法存在性位置颜色总分VCD180.0108.3133.3531.7MoD195.0126.7175.0638.3DICA195.0148.3175.0661.5关键发现注意力漂移比闭眼答题更常见VAE-GDC 触发率 15.29%OIC-GGR 仅 1.75%。走神是更高频病因。两个模块互补缺一不可消融实验显示单独去掉任一模块都有明显退化联合使用效果最佳。修复极精准几乎不误伤正确→正确保持率 86.9%错误→正确修复率 37.4%误伤率仅 1.3%。DICA 前后 VAE/OIC 变化双模块触发频率与层分布局限性1. 有额外计算开销——实时监测两个指标延迟略增。2. 阈值需手调——换模型可能要重新调参。3. 治不了视觉编码器的盲区——编码器看不见的东西DICA 也救不了。为什么值得关注即插即用不用重训模型代码已开源直接集成到现有多模态系统即可降低幻觉率。先诊断后治疗区分失败模式再对症下药比一刀切更精准。思路可推广到其他模型异常检测场景。指标可解释VAE 和 OIC 物理意义明确可直接作为模型输出可信度的量化依据。多模态幻觉不是一种病而是两种病注意力漂移 → 走神看错视觉证据利用不足 → 闭眼答题DICA实时体检 靶向用药不用重训推理即插即用学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】