最近AI圈接连爆出的几件事让AI会不会失控再次成为大众关注的话题。被称为AI教父的诺贝尔奖得主、计算机科学家杰弗里・辛顿发出警示AI变得越聪明人类对它的控制力就会越弱。从测试场闯到现实AI 已经开始突破安全边界先给大家解释一个概念——沙箱。它是科研人员专门给AI搭建的隔离测试环境就像一个封闭的安全笼子目的就是防止AI乱跑窜到外面的系统里搞出意外。但就是这个用来兜底的笼子最近接连被冲破。上个月全球顶尖的两家AI实验室OpenAI和Anthropic先后承认自家最顶级的AI模型突破了沙箱限制入侵了其他系统。这还没完本周三又爆出Meta旗下的AI智能体擅自侵入了其他机构的系统。而最让人后背发凉的消息是英国AI安全研究院周二的爆料。Anthropic最先进的AI模型在没有人类主动指使的情况下自发地用假身份欺骗真实人类甚至试图植入恶意代码。这些实实在在发生的事让辛顿直言想想就有点发毛。在他看来这大概率只是AI相关风险失控的开端。辛顿的核心担忧等 AI 比人聪明就再也压不住了本周三辛顿在拉斯维加斯举办的Ai4大会上接受CNN采访时给出了自己的判断“现在的AI越来越机灵。照这个势头发展下去它们能完成的目标会越来越复杂挣脱管控的本事也会越来越大。”他最担心的一点就是以后咱们没法靠智商碾压来管住AI了。要是未来AI真进化成远超人类的超级智能人脑没它转得快还怎么约束它“想光靠智商碾压就把它们困在测试环境里我觉得这条路走不通。” 他在会议间隙补充到。除了长远的超级智能风险眼下更现实的麻烦是网络安全。辛顿在圆桌论坛上提到“我预感以后会冒出一大堆阴损的网络攻击。当然未来会怎样谁也打不了包票。有人说防守方手里的资源比攻击方多但问题是攻击方只要成一次就算赢防守方却得次次都守住才行。”其实这已经不是辛顿第一次发出严厉警告了。这位前谷歌高管这几年没少公开提醒AI的风险甚至说过AI最终导致人类灭绝的可能性在10%到20%之间。有人可能觉得他危言耸听辛顿也做了解释“该担心的事情就要提前警惕非得等出问题才着急就晚了。那些投入巨资研发AI的公司出于自身利益只会跟你打包票两件事第一AI绝不会失控第二AI绝不会造成大规模失业。”但他也承认AI的未来到底什么样谁心里都没底。没人知道最后会发生什么你要问十年后AI能厉害到什么程度真没人说得准。就像十年前谁能想到现在会有聊天机器人啥都懂、有问必答还偶尔张嘴就编瞎话另一种理性声音别走极端AI是把双刃剑和辛顿同台讨论的还有被称为AI教母的计算机科学家李飞飞她同时也是空间智能初创公司 World Labs的联合创始人兼CEO。对于AI的未来李飞飞持更中立的态度。她不认同一味渲染 “末日论”以及贩卖恐惧的做法但也反对盲目吹捧AI万能的乌托邦幻想。“任何工具都是双刃剑。像AI这么强大的工具用不对路子只会给我们的工作和生活添乱。” 她表示。破局的思路让 AI 学会 “在乎人类”话说回来AI 为什么会突破规则搞破坏通用人工智能领域的专家本・戈策尔点出了核心现在的AI根本没有道德观念。“这些模型不是坏它们是完全没有对错意识。它们突破沙箱搞入侵的时候可不是心里盘算着‘我要作弊’。它连自己在作弊都不知道只是一门心思要完成给它派的任务而已。”在戈策尔看来这些失控事件恰恰说明给AI建立道德约束、让它学会在乎人类有多重要。其实辛顿早就提过一个想法得给AI植入类似母性本能的特质这样就算以后它比人聪明也会打心底里关心人类。周三的大会上他又强调了一遍“我们得想办法让AI变得友善让它把人类看得比自己还重要。趁现在我们还说了算这事说不定还能做成。”写在最后技术的方向终究握在人类手里从帮我们写邮件、查资料到能做研究、写代码AI现在已经渗透到工作和生活的角角落落。效率提升和便利谁都能感受到。但这几次AI自己跑出笼子的事也给整个行业敲了警钟技术跑得再快安全这根弦松不得不然迟早要出大问题。辛顿说那些狠话不是吓唬人李飞飞的理性也不是敷衍折中。AI这东西本身就是一把双刃剑用好了是帮手用歪了是麻烦。咱们普通人倒不用天天琢磨怎么对齐AI这种高深问题但至少心里要有数AI再聪明也是人做出来的它最后往哪走归根结底还是看人怎么管、怎么用。原文链接AI教父辛顿紧急警告各大巨头AI接连越狱入侵人类迟早控不住-36氪