安徽滁州7月中旬。67岁的吴大伯站在自家田埂上看着一片枯黄的芝麻地说不出话来。前一天他刚用无人机把药打完。150亩一整年的心血全部毁在了一款AI软件给出的全套方案上。吴大伯是那种学东西很快的老人。一年多前接触AI一开始是将信将疑后来发现问天气、问农活、问什么都答得头头是道渐渐就放开了。用他的话说什么事都问AI。7月10日那天他照常打开软件问芝麻田怎么除草除虫。AI迅速生成了一份百亩芝麻飞防除草除虫全套方案——配方里列了四种药剂搭配得漂漂亮亮看起来比农技站的说明书还专业。他照做了。无人机飞上去喷雾洒下来第二天田里的芝麻苗和杂草一起见了阎王。农技人员后来一查问题出在配方里的氟磺胺草醚。这是大豆田专用的阔叶除草剂芝麻田别说全田喷洒了沾一点就出事。这个药只能在大豆田里定向打草任何一本农药手册里都写得明明白白。但AI不知道或者说它知道却没有理解——它只是从海量网络文本中拼凑出了一个顺眼的答案。涉事AI平台的客服回应很坦诚也很有代表性AI软件本身没有独立知识库答复是根据网络公开信息整合生成。这句话翻译过来就是它没有判断力它只是在猜你想要什么答案。150亩芝麻预计损失约15万元。对一个67岁的农民来说数字很具体——意味着这一年白干了。更沉的是那种被辜负的信任。吴大伯不是被谁骗了他是被一种他以为可以信任的东西骗了。一个更普遍的裂缝吴大伯不是孤例。在同一个新闻周期里英国就业法院发现诉状数量激增追查下去发现是有员工用AI批量生成了法律文件直接提交。IT之家另一篇报道里英国一个被解雇的员工用ChatGPT写好了厚厚一叠诉讼材料里面的法条引用看起来头头是道细查才发现大半是编的。本质上这和李大伯的芝麻是一个问题。AI输出的那些格式整齐、语气笃定的内容会给人一种值得信任的错觉。它不会标注不知道的地方不会在不确定的时候停下来问一句你这块地是不是大豆田。它只是平静地把概率最高的下一个字串起来造出一个你爱看的答案。这种知道者的姿态和猜测者的底色之间的落差正在各种高风险的场景里制造麻烦。国内最近还有好几起类似的案例——有人用AI查偏方把自己吃进医院有人用AI判断合同条款结果踩了大坑。每一个案子的当事人最初的想法都差不多我以为它懂。一边是无人区一边是总决赛回头看这件事真正让人心里拧巴的不是AI犯了错——犯错是可以预期的而是我们整个社会对AI能力的普遍误解已经远远跑在风险教育前面了。吴大伯的悲剧发生的同时硅谷正在上演完全不同的一幕。Cursor为抢一个顶尖工程师打听到候选人上过表演艺术高中、学过古典小提琴专门跑到纽约一家乐器店给他买了一把土耳其吉他当礼物。扎克伯格给想招的AI研究员亲自送汤OpenAI后来有样学样地抄了这个送汤招聘法。一个顶级AI研究员的年薪已经是NBA球员级别估值600亿美元的Cursor觉得花一亿美元抢一个人都划算——只要别让他跳到对手那里。可是在安徽的芝麻田里没有猎头没有私人Slack频道没有土耳其吉他。只有一个信了AI、输了全年的老农。这不是有钱人和穷人的差别。这是两个世界在一套技术面前站在完全不同的起跑线上。一个世界在打磨极限性能另一个世界在承受极限之外的代价。比禁止更难的是教会辨别专家给出的建议听起来非常正确涉及健康、用药、农业等高风险场景AI的内容只能作为参考最终决策必须由专业人员进行判定。问题是在现实中吴大伯们去哪儿找专业人员判定村里的农技站早就撤了镇上能问到的几个农药店老板也不一定比AI更靠谱。对很多人来说AI就是他们能接触到的最专业的东西了。甲骨文前几天刚给OpenJDK项目发了新规不允许提交任何AI生成的代码。给出的理由很实在——知识产权风险、安全风险、代码审查工作量吃不消。开源游戏引擎Godot也改了贡献指南Flathub更是直接一刀切。连这些最懂技术的组织都在往回撤说明问题不光出在使用者身上。但对普通人来说真正的防护网不在政策文件里。你不可能指望一个67岁的农民在一堆免责声明里读出AI的边界。产品端的责任、平台的设计语言、以及AI在给出建议时是否主动暴露自己的不确定性——这些才是实际的防线。目前看来大部分AI产品在看起来可信这件事上投入的资源远远多于真正可信。吴大伯的150亩芝麻来年还能再种。但距离他被AI说服、到整片田枯萎中间只有一个晚上。一个晚上从问问AI看到全完了。信任的门槛很低代价的门槛很高。文中所用图片来源于网络仅供技术学习与交流。如权利人认为存在侵权请联系我们我们将在24小时内处理。