互联网联合创始人之一Vint Cerf博士观察到面对AI感觉我们遇到了一种新的生命形式正在努力弄清楚它是如何思考的。这提醒我们人类与AI之间的工作关系和商业关系可能与人与人之间的关系截然不同。曾主导9·11事件响应、2001年炭疽危机应对及美国联邦通信委员会现代化改革的科技领导者David Bray博士则建议也许我们不应该称之为人工智能而应该称之为异类交互。这样我们就不会试图将机器拟人化。这两个观点合在一起传达出一个信号我们对待AI的方式将决定哪些企业能够在未来胜出。与此同时屡获大奖的调查记者、决策科学公司Decisive的创始人兼CEO Cheryl Strauss Einhorn强调当锤子落下砸中的是我们。AI不在乎。我们才是那些需要做出解释、承担后果的人。这是一个清醒而有力的警示我们与AI建立关系的方式对于商业成败至关重要。这三位专家共同强调未来十年我们与AI协作的方式以及我们让AI参与哪些工作将决定个人与企业的成败。对于CEO、董事会成员和高层政策制定者而言在决定是否信任AI输出结果时具备良好的人类判断力至关重要。近期Constellation Research的R Ray Wang与本文作者共同在每周播客节目DisrupTV上主持了与Vint、David和Cheryl的对话。这场节奏明快而极具深度的讨论围绕以下几个核心问题展开如何避免人类向AI下达指令以及AI之间相互通信时产生误解、如何判断是否应信任AI的输出结果以及若AI行为出错或造成危害应由谁承担责任。Vint率先提出了主动防范指令混乱的必要性他指出我最担心的问题是智能体之间使用自然语言相互通信。我们不需要智能体相互误解然后以光速而非人类速度执行错误指令。作为从最初的ARPANet到现代全球互联网全程参与的亲历者Vint进一步强调了确定性程序与生成式AI都可能执行非预期操作的风险程序至少是那些确定性的程序会按照你告诉它的去做。问题是有时候你告诉它要做的事并不是你真正想要它做的事。这就叫做Bug。在Vint观点的基础上David进一步指出我将治理定义为如何避免无序状态。我们必须有防止无序的机制不仅针对人类也针对智能体。他还用一个生动的视觉比喻来描述当前的AI治理状态这有点像1910年代的重演。那时我们还没发明交通灯甚至还没想出停车标志、优先通行规则或人行道。1910年代纽约和芝加哥的街道上有轨电车与私家汽车、行人和马匹并行——这与如今企业中各种云端AI模型、本地AI模型、人类用户和其他分析软件工具并存的局面如出一辙。Cheryl则提醒大家要认识自己默认的思维方式我们每个人都有自己的秘方那是我们做决策的方式但大多数人其实并不清楚自己的秘方是什么。为了在向AI下达提示时避免误解了解自己的秘方至关重要。她在新书《人类优势AI时代的明智决策》中进一步阐述如果你要引导机器你真正需要做的是花更多时间去探索自己的秘方……这样它就能真正为你量身定制而不是给你别人的答案。在进一步解释我们正在试图弄清楚它如何思考这一观点时Vint表示我将它们视为一批可以与我们建立关系的新型工作者。在我看来这非常像一个非常聪明的研究型智能体。对于曾于2017至2020年担任以人为本的互联网联盟主席的Vint而言这一表述体现出他认为AI不仅仅是工具更是能够增强项目研究能力的数字同事。这一核心观察也指向未来工作的走向激励和引导工作者包括与人类协同工作的AI智能体将变得越来越重要。David从自己在情报界和美国联邦通信委员会的工作经历中汲取经验谈到如何判断是否信任AI的输出结果时表示在这个时代社会的健康回应是越来越不要轻信你看到的第一件事除非你能交叉验证……这就是中央情报局的做法。他本人有过亲身经历——曾面对数以千万计的机器人自动提交的评论涌入公共评论系统的局面且必须记录所有提交的2300万条评论无论发布者是人类还是数字机器人。对于迈向AI智能体时代的企业而言判断智能体在何时能为客户互动带来真正价值至关重要。David领导IT团队在洪流中维系人类评论系统正常运转的经历也时刻提醒我们AI智能体既能放大人类声音也可能干扰甚至掩盖人类声音。Cheryl还强调了跳出局限、从更宏观视角审视AI的重要性这不仅仅是某种新软件这实际上是一种文化变革……是关于解决问题方式的变革。她的观点与Vint和David所强调的内容相互呼应——在决定是否信任AI输出结果时健全的人类判断力不可或缺而人类与AI之间的良好化学反应是区分有益AI关系与无效AI关系的关键所在。在探讨人机成功协作的最后一个核心议题时Vint、David和Cheryl共同回应了一旦出现问题应如何追责这一关键问题。Cheryl用一个鲜明的对比来描述两种不同的AI使用风格人们使用AI的方式大致分为两种——外科医生模式和兰博基尼车手模式。当我们向AI寻求帮助时我们想要一个具体的答案……我们像外科医生一样使用它。外科医生可能犯错也可能在操作无误的情况下仍出现不良结果使用AI同样面临类似风险。谈到另一种AI使用方式Cheryl继续说道还有些时候……你面临一个高风险决策需要经历一个完整的决策过程。这时候你就是那个兰博基尼车手。在这种如同驾驶高性能赛车般使用AI的场景中熟练应对急弯、充分了解AI引擎的能力与边界是避免AI事故的关键。David还借用了航海中悬挂旗帜的规则来阐释责任归属当一个AI智能体在执行任务时它飞的是谁的旗帜是哪个组织的旗帜在这个比喻中若某组织部署了AI智能体则在提供了合理指令的前提下该组织也应为智能体的行为承担责任。他还观察到在不久的将来识别非合成数据将变得越来越困难到2030年地球上超过40%的信息将由AI合成生成……这将给CEO和董事会带来重大挑战。最后Vint指出个人和组织需要在事情出错时拥有寻求救济的途径在各种情形下建立一种寻求补救的机制可能是极具价值的举措甚至是一种必要之举。作为谷歌的首席布道师Vint一直积极倡导此类AI治理方式他和David也都肯定了Salesforce、谷歌等公司正在工作场所和客户场景中采取类似的负责任AI方法。Vint还延伸了他与David共同关注的一个问题即在区分AI生成内容与人类原创或人工筛选内容方面日益增加的挑战他指出失去对数字信息的访问权限是一个严重问题其中包括丢失用于解读数据的软件以及数据来源溯源的风险。Vint警示我们不需要智能体相互误解然后以光速执行错误指令这一观点揭示出无论是人类与AI之间的关系还是AI与AI之间的关系都将决定最终结果的好坏。Vint、David和Cheryl共同提炼出三个核心要点其一避免对AI指令产生混淆其二建立判断AI输出是否可信的能力其三明确AI行为的责任归属机制。三位专家还一致强调成功的企业、社区和国家将以群体中的AI为核心理念认识到人类与AI之间基于意图与责任的网络化协作关系。Vint和David也都强调我们需要超越图灵测试的框架聚焦于能够放大个人与集体人类能力、帮助我们发挥自身优势的AI。本文由LeadDoAdaptLDAVentures首席执行官、加速器主席、史汀生中心杰出研究员David Bray博士联合撰写。QAQ1Vint Cerf对AI智能体之间相互通信有什么担忧AVint Cerf最担心的是AI智能体之间使用自然语言相互通信时可能产生误解。他指出智能体一旦误解指令就会以远超人类的速度执行错误操作带来难以控制的后果。他将此类风险类比为程序中的Bug——程序会按照你说的去做但你说的未必是你真正想要的。Q2企业如何判断是否应该信任AI输出的结果ADavid Bray建议采用交叉验证原则不要轻信第一眼看到的信息这也是情报机构的惯常做法。Cheryl Strauss Einhorn则提出了两种AI使用模式——外科医生模式寻求单一精确答案兰博基尼车手模式则适用于高风险复杂决策场景。两者都需要使用者具备足够的判断力和对AI能力边界的清晰认知。Q3AI出现问题时责任应该由谁承担A三位专家一致认为责任最终落在人类身上。Cheryl明确表示当锤子落下砸中的是我们AI不在乎。David借用航海旗帜的比喻指出部署AI智能体的组织应为其行为负责。Vint则建议建立明确的救济和追责机制以便在出现问题时能够有效应对。