上海大学联合上交团队推出智能体医疗深度研究平台,想要打造可追溯的白盒AI模型

📅 2026/7/16 4:49:32
上海大学联合上交团队推出智能体医疗深度研究平台,想要打造可追溯的白盒AI模型
小罗碎碎念参考来源Liu M, Xu F, Xu R, et al. DEEPMED Search: An Open-Source Agentic Platform for Medical Deep Research with Introspective Verification[J]. arXiv preprint arXiv:2606.29746, 2026.项目在线演示https://www.deepmedsearch.cloud临床中有一个十分常见的困境一位患者出现阵发性高血压、头痛、心悸伴出汗常规降压药完全无效辗转多家医院都按“原发性高血压”治疗症状始终没有缓解——最后才确诊为罕见的嗜铬细胞瘤。这类“罕见病被常见病掩盖”的误诊本质上是常识偏差Commonality Bias人的注意力更容易被高频出现的常见疾病吸引反而忽略了指向罕见病的关键线索。这一困境同样困扰着当下的医疗AI。近年来大语言模型已经大幅提升了临床问答的效率检索增强生成RAG技术也被广泛用于让AI基于真实医学文献给出答案但标准RAG系统大多是静态的线性流水线在处理罕见病这类复杂长尾问题时极易出现检索诱导推理漂移Retrieval-Induced Reasoning Drift检索器优先返回海量的常见病相关资料AI最终被“似是而非”的通用信息带偏给出错误的诊断结论。更棘手的是市面上表现较好的商业医疗AI大多是“黑盒”产品用户无法追溯结论的来源也无法审计背后的诊断逻辑——而可解释性恰恰是临床医疗的底线。一面是传统RAG能力不足、容易误诊一面是商业工具黑盒不可信医疗深度研究始终卡在“可信”与“高效”无法兼得的瓶颈中。来自上海大学与上海交通大学的研究团队带来了破局方案他们推出了DEEPMED SEARCH一套完全开源的智能体医疗深度研究平台。它跳出了传统RAG的单流水线思路用“自适应路由-因果过滤-多智能体辩论”的三层架构既主动过滤了常见病带来的噪音干扰又把完整的推理过程全部透明化打造出了真正可审计、可追溯的“玻璃盒”医疗AI。DEEPMED SEARCH框架临床医生输入的复杂病例数据与查询首先会进入原子分解模块被拆解为多个独立的临床约束子问题随后源自适应路由器会根据不同子查询的特性分别通过信息密度校验、结构一致性校验、实时相关性校验三类判断将请求精准分发至三类异构数据源非结构化文献需求对接PubMed等学术文献接口结构化病理逻辑查询对接整合了UMLS与SNOMED的本地Neo4j知识图谱实时指南类需求则调用网页爬虫获取最新信息从检索源头保障证据的适配性与专业性。完成多渠道检索后所有证据会汇入内省验证模块完成两轮质量校验第一轮是因果内省过滤系统会锚定目标诊断假设同时识别出易混淆的相似病症作为对照对仅能匹配常见病的共性噪声证据执行降权过滤保留具备鉴别诊断价值的高区分度信息第二轮是多智能体对抗辩论由正方智能体搭建推理链条、反方智能体排查逻辑漏洞、裁判智能体把控收敛标准过程中还支持人工介入补充实验室数据等缺失信息充分验证推理的因果一致性。最终经过完整推演与验证的结论会被整理为结构化深度研究报告清晰呈现鉴别诊断结果、带完整引用的因果证据链以及被排除的假设记录全流程的检索、过滤、辩论逻辑均可追溯审计。这套架构既通过自适应检索与噪声过滤解决了传统医疗RAG易出现的推理漂移问题又以全透明的多智能体机制实现了“玻璃盒”式的可信医疗推理兼顾了研究效率与临床场景所需的可解释性。医学AI交流群目前小罗全平台关注量120,000交流群总成员4000大部分来自国内外顶尖院校/医院期待您的加入由于近期入群推销人员较多已开启入群验证扫码添加我的联系方式备注姓名-单位-科室/专业即可邀您入群。一、三层智能体架构打造可追溯的“玻璃盒”医疗AIDEEPMED SEARCH的核心创新在于把医疗检索从“一次性搜索生成”的简单流程变成了一套类似“医生团队会诊”的智能体工作流。整个系统分为三个环环相扣的阶段每一步都针对传统医疗AI的痛点设计最终实现既准确又透明的推理效果。给每个问题找对“资料库”传统RAG系统的通病是“所有问题都用同一个数据库搜”查基础病理和查最新指南用同一套语料结果要么信息过时要么专业深度不足。DEEPMED SEARCH的第一步就是用源自适应路由器Source-Adaptive Router 解决这个问题。系统收到临床查询后首先会执行原子分解把一段复杂的病例描述拆解成症状特征、病程规律、治疗反应等多个独立的临床约束条件。随后路由器会动态评估每个子问题的信息密度自动分发到最匹配的数据源需要同行评议的学术文献和临床试验数据就直接调用PubMed API获取要梳理症状之间的多跳病理因果关系就查询本地基于Neo4j构建的知识图谱整合了UMLS与SNOMED-CT医学术语体系而最新的临床指南、共识声明这类实时性强的内容则通过网络爬虫从公开网页获取。你可以把这理解成一位训练有素的医学研究者他不会把所有问题都丢给通用搜索引擎而是查文献去专业数据库找病理机制去权威知识库追最新指南去官方学会网站每一类信息都从最高效的渠道获取。这种动态调度的设计既保证了信息的专业性也兼顾了实时性从源头提升了检索证据的质量。主动剔除“似是而非”的诊断噪音找对了数据源只是第一步——传统RAG最核心的“常识偏差”问题依然存在哪怕是在专业文献库里常见病的相关资料也远多于罕见病检索结果依然会被通用信息淹没。DEEPMED SEARCH为此设计了因果内省过滤Causal Introspective Filtering 机制主动给检索结果“降噪”。这一步分为两个关键动作。首先是对比假设扩展系统不会只盯着目标疾病找证据反而会主动生成“混淆假设”——也就是那些症状相似、容易误诊的常见病。比如分析嗜铬细胞瘤时系统会主动把“原发性高血压”列为对照的混淆项。随后是证据降权计算系统会基于BGE-M3句子嵌入模型计算每一段检索内容的区分度分数用内容与目标疾病的相似度除以内容与混淆常见病的相似度。分数越高说明这段信息越能区分两种疾病是有价值的鉴别诊断依据分数低于阈值的就属于两种病共有的“通用噪音”会被标记为低相关性在界面中弱化显示。这就像医生做鉴别诊断的思路不会只找支持某个诊断的证据而是主动把容易混淆的疾病列出来逐条对比症状匹配度。那些“两种病都符合”的描述参考价值很低只有“只有目标病才符合”的特征才是诊断的关键。这种主动对抗常识偏差的设计正是专门针对罕见病长尾场景的核心突破。像病例讨论会一样交叉验证结论经过过滤的证据最终会进入内省验证模块Introspective Verification Module通过一套多智能体对抗辩论框架完成最终的推理与综合这也是系统“玻璃盒”属性的核心体现。系统会同时部署三个各司其职的智能体正方智能体Apro负责基于检索到的证据搭建完整的推理链条支撑诊断结论反方智能体Acon负责反向挑错找出推理中的因果断层、证据不足或者逻辑矛盾裁判智能体Ajudge则负责把控全局当新一轮辩论带来的信息增益低于阈值、推理趋于收敛时就给出最终结论。和普通AI直接给出一句话答案不同这套辩论过程是全程流式展示的用户可以实时看到三个智能体的交互过程。更重要的是系统支持人在回路干预临床医生可以随时向辩论中补充信息比如“加入化验结果血甲氧基肾上腺素升高”系统会立刻将新证据纳入推理调整最终结论。最终生成的不是一句简单的诊断而是一份结构化的深度研究报告包含鉴别诊断、支持证据、排除的假设三个部分每一条结论都对应着具体的文献ID或者知识图谱节点完全可追溯、可审计。二、从罕见病病例到基准测试的双重验证这套架构的实际效果如何研究团队分别在真实罕见病病例与标准医疗基准数据集上完成了验证结果清晰展现了DEEPMED SEARCH相对于传统方案的优势。揪出被普通AI漏掉的罕见肿瘤研究团队采用了MedR-Bench数据集中的真实罕见病案例其中最典型的就是嗜铬细胞瘤诊断测试。测试病例为患者出现阵发性高血压、头痛、心悸、出汗常规降压药物治疗无效。作为对照组的普通RAG系统最终给出的诊断是“原发性高血压”建议生活方式干预——完全忽略了“阵发性发作”和“出汗”这两个关键线索典型地出现了推理漂移被常见病的海量信息带偏了。而DEEPMED SEARCH则准确诊断出嗜铬细胞瘤并且完整呈现了推理过程首先通过因果过滤将“原发性高血压”的相关证据降权因为它无法解释出汗的症状随后多智能体辩论确认“阵发性高血压头痛心悸出汗”的症状三联征高度指向儿茶酚胺分泌型肿瘤。整个诊断逻辑清晰每一步都有对应的证据支撑。这个案例直观地证明传统RAG的“检索-生成”模式在罕见病场景下很容易被常识带偏而DEEPMED SEARCH通过主动过滤和交叉验证能够有效抓住容易被忽略的长尾信号大幅降低误诊概率。准确率领先传统RAG近9个百分点在通用医疗RAG基准测试上系统的性能同样亮眼。研究团队在MIRAGE基准上完成了对比测试在难度较高的PubMedQA子集上基于Qwen3-8B基础模型的DEEPMED SEARCH准确率比普通RAG提升了约9.0%。而在更具挑战性的罕见病数据集MedR-Bench上采用DeepSeek-v3.2模型的DEEPMED SEARCH达到了76.43%的准确率大幅缩小了自动化系统与专家级推理之间的差距。对于罕见病这类数据稀缺、诊断难度高的场景这个成绩意味着AI已经可以作为可靠的辅助参考工具。从能力维度对比来看DEEPMED SEARCH填补了传统方案的空白普通RAG虽然开源透明但缺少自适应路由、因果过滤和多智能体验证能力性能有限商业工具功能全面但不开放源码推理过程不透明而DEEPMED SEARCH既保留了完全开源的透明度又具备了自适应路由、结构化报告等实用功能还独有因果一致过滤和多智能体验证两大核心能力真正实现了“可信”与“高效”的兼顾。三、开源时代的医疗AIDEEPMED SEARCH的价值远不止于提升了几个百分点的准确率。它的出现为医疗AI的落地提供了一种全新的“玻璃盒”思路正在从多个维度改变医疗研究与临床辅助的格局。对于医学研究者而言这套系统可以在几分钟内自主分解复杂问题、跨库检索证据、完成交叉验证最终生成带完整引用的结构化研究报告大幅降低了文献综述与深度调研的时间成本。对于基层临床工作者而言透明可审计的推理过程让AI辅助诊断真正变得“敢用”——医生可以逐条核对AI的诊断逻辑和证据来源而不是被动接受一个黑盒结论这对于罕见病鉴别、基层医疗能力提升都有现实意义。更重要的是它的开源属性。研究团队将整套平台完全开放社区研究者可以免费使用、定制优化甚至基于这套架构扩展更多医疗场景这打破了商业公司对高端医疗AI的技术壁垒真正推动可信医疗AI能力的普惠化。研究团队也坦诚了当前的局限多智能体架构会带来额外的计算开销和延迟目前也还没有开展正式的临床医生用户研究。未来团队将继续优化系统运行效率邀请临床从业者深度参与评估还会将框架扩展到医学影像等多模态数据让这套透明的推理能力覆盖更广阔的医疗场景。回到开篇的诊断困境医疗AI的终极目标从来不是代替医生而是成为医生可信的助手。过去我们要么面对能力不足的透明工具要么面对效果尚可的黑盒系统始终在“可信”和“有用”之间二选一。而DEEPMED SEARCH走出了第三条路——用开源的架构、可追溯的推理、可验证的逻辑让医疗AI既好用又放心。这或许就是下一代医疗AI该有的样子透明、严谨、可审计真正为循证医学赋能。加入团队我们是一支由国内外顶尖高校硕博组成的前沿交叉团队多名成员以第一作者身份在Nature、Nature Communications、Advanced Science以及Radiology等顶级期刊发表过论文。团队正在招聘实习生/分析师/讲师欢迎医工交叉方向的优秀硕博投递个人简历到团队邮箱lxltx2025163.com