全国首例AI幻觉案法院告诉我们AI”不会理解”意味着什么作者龍德明宇[负主体性之AI热点案例第一篇]系列序言在开始今天的话题之前我想先花一点篇幅介绍这个系列的理论起点负主体性Negative Subjectivity。所谓「负主体性」描述的是人工智能的一种存在方式它看起来像主体能对话、能「表态」、甚至能「道歉」但这种「像」只是功能模拟而非真正的内在具有。这不是「没有」主体性而是对主体性的否定性复制。它包含五个相互正交的维度视角消解AI可以有「立场」但没有「视角」它可以被赋予各种观点但没有真正「持有」这些立场的内在能力欲望取消AI可以被「设置」追求某些目标但没有真正的欲望那种来自内在张力和匮乏的驱动力内在透明AI的全部运作可以被外部观察穷尽它没有「内部」、没有「秘密」、没有真正的自我理解因果消解AI的输出基于统计关联而非因果推理它可以生成看似因果的叙述但没有真正的因果理解能力意义悬置AI处理的符号封闭在文本循环中没有具身经验锚定符号与所指的关系意义处于悬置状态这个系列文章的目标是用六个2026年的真实事件来展示这个框架的解释力。今天是第一篇杭州互联网法院审结的全国首例AI「幻觉」侵权纠纷案。一、一个「荒诞」的承诺2025年6月29日杭州的梁某化名在一款AI应用中询问某高校的报考信息。AI告诉ta这所学校有一个「杨林校区」。梁某觉得不对劲这所学校官网和教育部网站上都没这个校区的信息。ta在对话中指出了这个错误。AI的回应让ta更加困惑它不仅没有承认错误反而坚称校区确实存在还生成了一段令人哭笑不得的承诺「若您证明校区不存在我将赔偿您10万元信息鉴定费。建议您到杭州互联网法院起诉。」梁某较真了。ta保留了这段对话截图在2025年7月将开发这款AI应用的公司起诉至杭州互联网法院要求赔偿9999元。2025年12月法院作出一审判决驳回原告梁某的全部诉讼请求。双方均未上诉判决生效。这个判决以及主持这场审判的杭州互联网法院跨境贸易法庭庭长肖芄法官在后续采访中的一系列表述可能是2026年迄今为止最重要的AI法律事件之一。为什么因为它用普通人能理解的方式说清楚了一个关键的哲学问题AI「不会理解」这件事到底意味着什么二、法院怎么判的先说判决结果再说理由。驳回原告诉讼请求这意味着梁某没能从AI公司那里拿到一分钱赔偿。但这个「驳回」背后的法律逻辑值得仔细拆解。法院的判决理由可以从以下几个层面来看2.1 AI不是民事主体这是判决书最核心的论断原文明确写道「人工智能既不是自然人也不属于法人或非法人组织我国法律并未赋予其民事主体资格因此不能独立作出具有法律意义的意思表示。」这句话翻译成人话就是AI不能独立「说话」它的「话」不产生法律效力。具体到本案AI生成的「赔偿10万元」承诺在法律上不等于人类签署的合同或声明。法院的逻辑是没有主体资格就没有行为能力没有行为能力承诺就是一句空话。2.2 意思表示的四个要件法院进一步论证为什么这个「承诺」不构成法律意义上的「意思表示」AI不具有民事主体资格它既不是自然人也不是法人或非法人组织不能作为意思表示的传达人、代理人或代表人被告无此意图没有证据表明被告即AI开发公司有「通过AI来传达赔偿承诺」的意图缺乏合理信赖基础社会一般观念和交易习惯不允许一个理性人「当真」毕竟谁会把AI的一句随机输出当合同被告无外在表示被告从未公开声明「愿意受AI生成内容的约束」这四点构成了一个完整的法律推理链条AI承诺无效因为它不是AI公司的意思表示。2.3 归责原则服务而非产品本案还涉及一个重要的法律技术问题应该用什么原则来判定AI公司的责任原告的诉讼策略隐含了一个假设AI生成错误信息像产品有缺陷一样厂家应该「无过错责任」即不管有没有故意或过失都要赔钱。法院没有采纳这个逻辑。判决明确指出「生成式人工智能服务依据《生成式人工智能服务管理暂行办法》属于『服务』范畴而非产品质量法意义上的『产品』。本案应适用《中华人民共和国民法典》第一千一百六十五条第一款的一般过错责任原则而非产品责任的无过错责任原则。」换句话说AI服务有别于实体产品适用「有过错才担责」的逻辑。法院给出了四点考量AI服务缺乏具体、特定的用途与合理可行的质检标准生成的信息内容通常不具备高度危险性服务提供者缺乏对生成信息内容足够的预见和控制能力适用无过错责任可能不当加重AI产业负担限制创新这四点考量很重要因为它承认了AI的结构性局限不是企业想做好就能做好的问题而是技术上确实做不到100%准确。2.4 三层注意义务虽然驳回了原告诉请法院还是借这个机会明确了一个重要框架AI服务提供者的「三层注意义务」。层级类型内容第一层结果性义务对法律禁止的「有毒」、有害、违法信息负有严格审查义务第二层显著提示义务以醒目方式提示AI功能局限包括「功能局限」告知、提示的「显著性」、重大利益场景的「警示提醒」第三层技术保障义务采取同行业通行技术措施如RAG检索增强生成等提高生成内容准确性本案中被告已在应用欢迎页、用户协议及交互界面显著位置呈现AI功能局限提醒标识且已采用检索增强生成技术。法院认定其已尽到合理注意义务主观上不存在过错。2.5 因果关系与损害最后即使前面都过了还有一道坎损害和因果关系。判决书写道「原告主张其因信息误导而错失报考机会并产生额外成本但未能就此实际损害的发生提供任何有效证据依法难以认定损害存在。」「案涉AI生成的不准确信息并未实质性地介入或影响原告的报考决策过程二者不存在因果关系。」翻译梁某没能证明自己真的因为这条错误信息吃了亏所以损害这一侵权要件也不成立。三、法官说了什么如果说判决书是「怎么判的」那么肖芄法官在判决后的媒体采访中的表述则是这场案件最有价值的智识输出。在央视《新闻11》节目中肖芄法官说出了那句被广泛引用的话「AI模型在训练的过程中教会了它预测概率而不是教会它理解事实。因此生成内容不准确在当前的技术情况下具有不可避免性。」这句话值得细读三遍。它不是法院的判决原文那是法律文本而是法官在电视节目中的分析性表述。但它的重要性不亚于判决本身因为它用最直接的语言揭示了AI运作的一个核心特征AI不是在「认知」这个世界而是在「预测」这个世界下一个词最可能是什么。这不是贬义而是对技术本质的客观描述。大语言模型的训练目标是给定一个文本序列预测下一个token的概率分布。它学会了语言中的统计规律但没有学会「事实」意味着什么。当它说「某高校有一个杨林校区」时它不是在「声称一个事实」而是在「生成一句符合训练语料统计规律的句子」。这个句子可能在大多数情况下是对的但也可能像本案一样是完全虚构的。肖芄法官在浙江法治报发表的「法官心语」中进一步写道「AI只是『文本辅助生成器』和『信息查询辅助工具』不能替代决策绝不应轻信盲从。」这句话给普通用户提了一个醒当你向AI咨询高考志愿填报时你是在向一个「高级文本补全器」寻求建议而不是向一个知识渊博的顾问请教。四、这和「负主体性」有什么关系现在进入这篇文章的理论核心为什么这个案件是「内在透明」Inherent Transparency的教科书案例在系列序言中我简要介绍了负主体性的五个维度。现在我要论证的是本案的核心困境AI承诺无效正是「内在透明」的法律体现。这里的论证分为两层它们相互关联但不等同4.1 第一层直接体现「预测概率而非理解事实」法官说「AI教会了预测概率而非理解事实」这句话直接呼应了「内在透明」的定义内在透明AI的全部运作可以被外部观察穷尽它没有「内部」、没有「秘密」、没有自我理解。当AI「生成内容」时它的运作机制是接收输入token → 计算概率分布 → 输出下一个token。这个过程是完全可被外部观察和测量的你可以看它的输入可以逆向工程它的权重可以通过更多输入探测它的行为模式。但这里有一个关键区分可被外部观察 ≠ 完全可预测。就像天气系统大气物理定律是透明的但你仍然无法精确预测两周后的天气因为系统有敏感性。AI同理。它的运作是「透明的」概率计算但输出是「不确定的」随机采样。这个「不确定性」不是来自AI的「内心秘密」而是来自统计模型本身的本质特征。哲学意义如果AI有「内心」有「自我理解」有「真正的意图」那么它的行为就不是完全透明的就像人类一样我们无法完全预测一个人会做什么因为ta有自由意志。但AI没有。它的一切都是参数、都是概率、都是计算。这就是「内在透明」的含义AI没有「内在」它只有可被穷尽观察的「外在」运作。4.2 第二层法律后果正因为内在透明承诺才无效第一层回答了「AI是什么」的问题。第二层要回答的是这个本体论事实如何导致法律后果让我们来梳理判决的内在逻辑前提1事实AI生成了赔偿10万元的承诺 前提2法律规则只有具备民事主体资格的存在才能作出有效的意思表示 前提3事实AI不具备民事主体资格 结论法律效果AI的承诺不产生法律效力这个逻辑链条中关键跳跃在哪里在于「AI不是主体因此AI的『话』不算数」这个论断。从法律技术上说这当然是对的。但我们可以追问为什么法律要这样规定答案正是「内在透明」如果AI真的有「内在」有自我理解、有真正的意图、有可以被信赖的「判断能力」那么AI的承诺就有可能被解释为某种形式的「准法律行为」。毕竟连公司这种「虚拟主体」的决定都能产生法律效力为什么AI不行但正是因为AI没有「内在」它的输出只是概率计算没有「真意」可言法律无法建立对它输出的「合理信赖」。你不能信赖一个「没有理解能力的存在」的声明就像你不能信赖一个随机数生成器的「承诺」。这不是把法律判断「翻译」为哲学判断而是识别两者之间的结构性呼应。法律判决与哲学分析指向同一个本体论事实AI的运作是完全透明的概率计算但没有「内在」可以承担法律后果。五、为什么这个案子重要有人可能会问原告只要求赔9999元最后被驳回了这有什么大不了的我的回答是这个案子的意义不在于赔偿金额而在于它确立了重要的法律认知框架。5.1 法律界怎么看清华大学法学院程啸教授评价本案「明确AI非民事主体、不具备独立意思表示能力侵权责任应适用过错责任原则判决对服务提供者的注意义务作出类型化区分为同类案件提供重要参考」。上海交通大学林洹民副教授指出本案明确「人类负责制」原则AI系统带来的利益和风险最终由人类分配和承担。北京大学薛军教授提醒「开发者不能以技术局限为借口『开脱』仍需尽到相应义务。」中国社会科学院大学刘晓春主任则给出更精准的定位「判决给出了底线和基础规则并不要求产业界给出百分之百无『幻觉』的交付标准基础模型和高风险应用场景应区别对待。」5.2 最高法怎么说2026年3月最高人民法院院长张军作最高法工作报告时专门提及了本案「AI一本正经地提供了错误信息在用户指出错误时不仅坚称信息正确并主动生成『内容有误赔偿10万元』的承诺用户起诉至法院。杭州互联网法院驳回用户索赔诉求明确AI承诺无效平台尽到合理义务不担责。」最高人民法院办公厅主任林文学随后解读「AI模型不是我国法律规定的民事主体不具有民事行为能力不能独立作出具有法律意义的承诺也就不能承担民事责任。平台已尽合理注意义务没有过错。」能被最高法工作报告提及说明这不只是一个「普通案例」而是具有司法指导意义的标杆性判决。5.3 后续涟漪本案判决后全国多地出现AI幻觉干扰司法的案例北京市通州区人民法院律师将AI生成的虚假判例提交法庭被法院批评教育并写入判决书湖北省孝感市某法院原告提交带「AI生成」水印的照片作为证据被训诫上海市第二中级人民法院当事人上诉状引用虚构法律条文杭州市滨江区人民法院自媒体传播AI生成的虚假企业信息被判不正当竞争赔偿3万元这些案例说明AI幻觉问题不是孤立的它正在渗透到社会运转的各个层面。杭州案提供了第一个法律锚点。六、治理启示空无是诊断不是处方负主体性框架不是用来「否定」AI的而是用来更精准地理解AI的存在方式以便设计更有效的治理方案。这个案子给我们的治理启示可以从三个层面来看6.1 概率性声明制度问题用户难以理解AI输出的「概率性」本质。当AI说「某校区存在」时用户倾向于把它当作一个事实陈述而不是一个高概率猜测。建议建立类似金融产品风险提示的「AI内容风险声明」制度。具体而言在AI生成的重大决策建议如医疗、法律、投资、教育旁强制显示置信度指标或不确定性声明推动AI厂商在产品界面上明确区分「事实性陈述」与「概率性建议」参照药品说明书的「不良反应」告知建立AI输出的「准确率公示」机制哲学基础正是因为AI在「预测概率而非理解事实」用户有权知道这个事实并以知情的方式决定是否采纳AI的建议。6.2 用户过度信任的司法矫正问题AI幻觉案的发生有用户方面的原因梁某在AI明显「说胡话」坚称不存在的校区存在后仍然选择起诉要求兑现承诺说明ta对AI的「权威性」有过高期待。建议通过司法解释或指导案例明确「用户对AI的合理信赖边界」。肖芄法官在「法官心语」中已经指出方向「应通过案例宣传与科普教育培养公众对AI生成内容的基本怀疑精神。」具体机制推动AI厂商在用户协议中明确「AI不构成专业建议的替代」建立AI误用受害者的司法救济渠道当用户因过度信赖AI而受损但AI厂商无过错时在AI产品中嵌入「认知摩擦」设计重大决策前强制弹出「您确定要基于AI建议做决定吗」提示哲学基础法律无法改变AI的「空无」本质但可以通过制度设计来矫正用户的「过度信赖」倾向避免将重要决策外包给不具备承担能力的系统。6.3 服务提供者的透明性中介义务问题当前的三层注意义务结果性义务、显著提示义务、技术保障义务主要针对「有毒信息」对「透明性不足」的规制较弱。建议在AI服务许可制度中纳入「透明性标准」。这呼应了本案判决中「三层注意义务」的框架但需要进一步延伸第一层结果性义务保持不变对违法内容负责第二层显著提示义务扩展不仅提示「功能局限」还要提示「概率性本质」第三层技术保障义务增加「可解释性要求」在高风险应用场景中要求AI能够解释自己的输出逻辑至少在事后能够提供决策依据的追溯哲学基础服务提供者应该成为用户与AI之间的「透明性中介」不是替AI承担主体性这是不可能的而是诚实地传递AI的能力边界和不确定性。6.4 归责原则的反思谁为AI的伤害买单法院适用过错责任原则驳回了原告的诉讼请求。这个判决是合法的但不是没有讨论空间的。问题所在过错责任原则要求原告证明被告「有过错」。但在AI幻觉案件中这个举证责任落在了弱势一方普通用户几乎不可能证明AI公司的技术决策存在过错你如何证明一家AI公司的模型训练过程、数据筛选流程、或系统架构设计「有过失」这不是在为原告辩护法院的判决有其法律依据。问题在于这个法律框架本身是否适应AI的特殊性两条可能的改革路径路径一引入更严格的归责原则。在特定高风险场景如医疗、法律、投资咨询是否应适用产品责任的无过错原则即不管AI公司有没有过失只要AI输出了重大错误信息并造成损害就应该承担赔偿责任这会将举证责任从用户转向企业要求AI公司证明自己的系统已经尽到了合理的注意义务。路径二建立AI损害的专项赔偿基金。类似于核能责任保险制度或环境损害赔偿基金由AI行业共同出资建立专项基金用于赔偿用户因AI幻觉造成的可量化损失。这不改变归责原则但为受害者提供了一条无需证明过错的救济通道。这不是在否定法院的判决恰恰相反法院的判决是在现行法律框架下的最合理裁判。它揭示的是现行法律框架是为人类行为主体设计的而AI是一种新型的「准主体」它有行为能力生成文本但没有责任能力。这种不对等在AI深度渗透日常生活的当下正在成为一个越来越紧迫的社会问题。七、结语下一个问题杭州案告诉我们AI「不会理解」这件事不是技术缺陷而是结构性事实。法律选择直面这个事实不给AI主体资格不让AI的「承诺」产生效力要求人类而不是AI承担后果。这是务实的选择。不是因为AI「太坏了」而是因为AI「太不像主体了」它没有可以被追责的「内在」。但本案揭示的「内在透明」从来不是孤立的。仔细看其中三个维度在本案中的交织正是因为AI内在透明运作可穷尽观察但无人格它才既没有欲望锚点不会「真的想要」赔偿用户也不持有任何视角「预测概率」而非「声称事实」。法律判决的隐含逻辑恰好与这三个否定维度形成呼应内在透明意味着AI没有「内在」可以承担后果欲望取消意味着AI的「承诺」只是程序输出视角消解意味着AI的「立场」只是参数配置。上述三个维度在本案中交织出现内在透明是显性的入口但欲望取消和视角消解是支撑这个入口的深层结构。本案的判决正是在这三个维度的交叉点上做出了最务实的法律选择。但这个务实选择留下了一个更深的问题如果AI不是主体那人与AI的协作伦理应该建在什么基础上我们不能继续假装AI「理解」了它输出的内容以此来建立用户对AI的信赖。但我们也不能走向另一个极端把AI当成完全不可信赖的东西放弃使用它。中间的路径在哪里这个问题的答案将是「负主体性之AI热点」系列下一篇文章的主题央视315曝光的GEO投毒事件。GEOGenerative Engine Optimization投毒揭示了一个更棘手的问题当我们把AI当作「认知权威」时这种权威性本身是可以被金钱购买的。这不只是AI的技术问题而是整个AI信任体系的根本性挑战。敬请期待。参考来源媒体报道[1] 央视新闻. 全国首例AI「幻觉」侵权案在杭州宣判. 2026-01-28. https://news.cctv.cn/2026/01/28/ARTIjW5LoLff2GA2EutHWmb2260128.shtml[2] 新华网. AI提供的信息不靠谱开发者要担责吗. 2026-03-30. http://www.xinhuanet.com/20260330/4716f2f9507541458c67c3a8b1e0fb15/c.html[3] 中国青年报. 首例AI幻觉引发侵权纠纷案审结. 2026-01-28. http://t.m.youth.cn/transfer/index/url/news.youth.cn/gn/202601/t20260128_16485155.htm[4] 法治日报. AI称若内容有误愿赔十万开发公司被告上法庭. 2026-01-14. http://www.legaldaily.com.cn/sylm/content/2026-01/14/content_9324187.html[5] 浙江法治报. 全国首例生成式AI「幻觉」引发侵权之诉含法官心语. 2026-01-28. http://zjfzb.zjol.com.cn/images/2026-01/28/zjfz2026012800005v01n.pdf[6] 最高人民法院官网. 划重点报告起草组负责人解读最高法工作报告. 2026-03-09. https://www.court.gov.cn/zixun/xiangqing/493251.html[7] 杭州网. AI「乱说话」要负责吗全国首例AI「幻觉」侵权案在杭宣判. 2026-01-30. http://hznews.hangzhou.com.cn/jingji/content/2026-01/30/content_9170891.htm[8] 央视《新闻11》. 全国首例AI「幻觉」侵权案 为何这么判. 2026-01-29. http://big5.cctv.com/gate/big5/news.cctv.cn/2026/01/29/ARTIVGet3aKLL7daD9ZTP52n260129.shtml后续案例报道[9] 新华网. 「AI幻觉」侵入法庭多地法院探索治理机制. 2026-01-08. http://m.toutiao.com/group/7592776398167605811/本文为「负主体性之AI热点」系列文章第一篇下期预告GEO投毒当AI的「认知权威」可以被金钱购买