模型负责理解与生成Controller负责计划与调度工具连接真实环境测试与日志提供反馈运行时管理权限与隔离Trace保存完整过程。“大语言模型本身能不能通向AGI答案很明确不能。”人工智能之父尤尔根·施密德胡伯Jürgen Schmidhuber在Big Technology Podcast最新一期访谈里面对主持人的问题回答得斩钉截铁。这个“不能”与开发者正在经历的AI编程热潮有直接关系。Schmidhuber研究神经网络与通用智能数十年。他在访谈里给出解释LLM负责预测Controller负责行动外部反馈告诉系统哪条路能走、哪条路应该避开。这套结构几乎可以直接搬到Coding Agent上。模型生成代码只是第一层。任务规划、工具调用、权限、测试、失败恢复和执行轨迹才决定Agent能不能从演示走进真实项目。访谈还谈到Physical AI的硬件瓶颈、AI算力投资可能出现的巨额损失、本地模型以及“AI是否真的会疼”。这些看起来离写代码很远落到工程现场谈的仍是同一个问题一个会说话的模型怎样变成一个可以交付任务的系统。以下为访谈内容我们进行了翻译与整理。“只靠LLM走不到AGI”施密德胡伯先否了这条路线“The answer is a clear no.”施密德胡伯答案很明确不能。Alex Kantrowitz只使用GPT模型有机会抵达AGI吗还是说放弃World Model路线会成为一个根本错误施密德胡伯OpenAI有很多聪明人他们很清楚单独的LLM做不到这一点。基础模型可以充当World Model用来预测另一个决策系统采取行动后环境会发生什么变化。他用婴儿学习来解释这种差别。婴儿不会先下载整个互联网。它抬手、转头、触摸物体通过自己发起的实验制造数据。内部的World Model逐渐学会预测发出某种动作信号后手会移动到哪里眼前的画面会怎样变化。放到Coding Agent里仓库内容相当于已经读过的世界。Agent开始工作后还会不断制造新数据命令输出、测试结果、编译错误、页面截图和人工修改。如果这些结果没有返回下一轮决策模型读再多代码也只是完成了一次看起来合理的续写。Schmidhuber回答只靠LLM能否通向AGI基础模型负责预测Controller决定下一步做什么“A prediction machine.”施密德胡伯基础模型是一台预测机器。他把完整系统拆成两个核心部分。第一个是World Model。它观察已经发生的内容预测下一段文本、下一个状态以及一串动作可能带来的后果。第二个是Controller。它调用World Model做规划在多条候选路径中选择动作争取更高的奖励同时避开预计会带来惩罚的结果。施密德胡伯基础模型单独拿出来还算不上完整的AI。系统需要另一个部分利用World Model中的信息制定更好的计划。Schmidhuber解释预测模型与Controller的分工现在看Claude Code或Codex分工就很具体了。LLM读取仓库、理解需求、生成代码Controller维护任务状态安排代码搜索、终端和浏览器等工具记录失败次数决定继续、重试还是回滚测试、日志和人工审查再把结果送回来。一条Prompt可以启动任务却无法单独保证任务结束。长任务能否跑完更多取决于Controller有没有停止条件、重试上限和失败后的备用路径。模型偶尔写错一行并不可怕。Controller把错误当成进展连续改掉几十个文件才是Agent进入真实项目后更难处理的故障。Agent越改越错是因为失败没有进入下一轮决策Alex Kantrowitz机器人为什么需要疼痛和情绪施密德胡伯疼痛与情绪是学习过程里的重要组成部分。机器人要知道哪些结果对自己有利哪些结果应该避开。疼痛信号承担的就是这个作用。Schmidhuber解释疼痛信号如何参与机器人学习开发者每天使用的测试就是Coding Agent最直接的“疼痛信号”。单元测试失败、进程返回非零退出码、类型检查报错、页面截图与基线不一致都在告诉Controller当前路径没有走通。只有把这些结果送回决策循环Agent才有机会调整方案。比如让Agent修复登录跳转异常只给一句“把这个Bug修好”模型很可能改出一份能够自圆其说的代码。若任务同时包含复现步骤、失败用例、允许修改的目录和验收命令Agent每改一次都能重新运行测试。测试不通过就继续排查连续失败则回到前一个状态。没有测试和可观察结果模型只能根据代码表面判断自己是否完成任务。它说“已经修好”与它真的修好是两件不同的事。模型已经跑得很快工具链却还拖着后腿“The main obstacle is progress in the hardware.”施密德胡伯主要障碍在于硬件方面的进展。Alex Kantrowitz距离机器人通过简单的演示就能学会组装手机、制作衣服还有多远施密德胡伯我们已经越来越接近但机器人硬件的进步速度远远落后于计算机。计算成本不断下降今天的机器人却没有比几十年前的机器人强上百万倍。Schmidhuber谈Physical AI的硬件瓶颈软件Agent也有自己的“身体”。代码搜索是否准确沙箱能不能稳定启动依赖能否复现测试需要跑多久日志有没有结构化输出都会限制Agent能做多少工作。同一个模型放进两个代码库结果可能完全不同。一个仓库有清晰的README、固定的测试入口和可回滚的环境Agent可以连续推进任务另一个仓库连本地启动命令都已经失效模型只能边猜边试。团队准备采购更强模型时也该检查一下模型周围的工程环境。很多Agent故障发生在工具不可用、权限不明确和验收条件缺失这些地方。9000亿美元可能打水漂模型绑定会越来越危险话题转向AI公司对GPU、数据中心和能源的巨额投资时Schmidhuber给出了整场访谈里最激进的判断。施密德胡伯如果今天向GPU数据中心投入1万亿美元而计算成本仍保持每五年下降到十分之一那么五年后可能有人要损失其中的9000亿美元。几个月前领先的模型很快就会出现相近的开源版本价格会持续承压。Schmidhuber谈AI投资与计算成本下降他提到的技术变化已经进入开发者的日常模型更新更快价格频繁调整额度和可用区域也会变化。应用层最好不要依赖某个模型独有的输出习惯。模型调用、工具协议、业务规则和评测需要分层版本要能固定也要准备切换路径关键任务建立回归评测高成本模型处理规划与疑难问题常规执行交给更便宜的模型。API变价、限额或下线时业务能否继续运行考验的是这层工程隔离。AI不会永远住在云端代码也不必全部发出去施密德胡伯AI很快不会只留在云端。它会运行在本地的小型计算机上拥有今天云端系统的能力也不必连接互联网。Alex Kantrowitz在这轮AI投资中普通人最终能得到什么施密德胡伯普通人会受益于计算成本下降。过去只有富人买得起的技术后来进入了每个人的手机。AI也会经历类似过程人们最终可以拥有自己的软件AI和Physical AI。Schmidhuber预测AI将从云端走向本地对开发工具而言本地推理多了一层现实价值。私有代码可以留在机器上离线环境仍能工作代码搜索、摘要和轻量审查也不必全部请求云端模型。更复杂的规划交给云端本地模型负责高频、低延迟和敏感数据任务会形成一套更容易控制成本与权限的混合架构。开发者现在要准备的是把模型调用设计成可以替换的能力层避免把全部工作流写死在一次云端请求里。AI有意识先看看它读过什么Alex Kantrowitz很多人把LLM称为随机鹦鹉或统计机器因此认为它们没有意识。你为什么持有不同看法施密德胡伯今天大家使用的LLM主要根据已有文本预测下一个Token。它们太简单还缺少发展自我意识的内部动机。它们之所以显得有意识是因为读过几乎所有关于意识的内容也读过人类关于爱、痛苦和冲突的作品。Schmidhuber谈LLM为何显得有意识模型可以生成一套很像亲身体验的自我叙述。但并没有证明ChatGPT已经拥有人的感受。同样的判断也适用于Coding Agent。Agent说“我已经检查了全部测试”不能直接算作验收系统需要留下测试命令、退出码和报告。Agent说“这次修改很安全”也不能替代权限策略、diff审查和回滚方案。语言可以把一件事说得很完整工程系统还要拿出外部证据。Prompt之外Agent还要补齐一整套运行栈施密德胡伯讨论的是AGI、机器人和意识落到开发者手中可以整理成一套清晰的Coding Agent架构。模型负责理解与生成Controller负责计划与调度工具连接真实环境测试与日志提供反馈运行时管理权限与隔离Trace保存完整过程。团队的实施顺序也可以从这里排出来。先挑选一批真实任务建立能够重复执行的评测随后接入工具和Controller让失败结果回到下一轮决策再补沙箱、身份、日志、人工接管和回滚运行稳定以后再讨论模型路由与成本优化。Prompt仍然重要但它只负责把任务交出去。Agent能否进入生产环境最终要看模型外面的工程系统能不能接住它。