一夜之间,GPT-5.6 Sol被OpenAI加速了14倍

📅 2026/8/14 16:00:55
一夜之间,GPT-5.6 Sol被OpenAI加速了14倍
8 月 14 日凌晨OpenAI 联合 AI 芯片厂商 Cerebras 正式预览了其旗舰模型 GPT-5.6 Sol 的全新服务层级「超高速模式」Ultrafast Mode。AI 开始卷信息不对等了8 月 14 日凌晨OpenAI 联合 AI 芯片厂商 Cerebras 正式预览了其旗舰模型 GPT-5.6 Sol 的全新服务层级「超高速模式」Ultrafast Mode。在该模式下GPT-5.6 Sol 的输出速度最高可达 750 tokens/s相比目前 Standard标准模式约 53 tokens/s 的推理基线速度提升最高达 14 倍同时不降低任何质量。横向对比的话GPT-5.6 Sol 加速后比 Fable 5 快 11 倍比 Opus 4.8 在 Fast 模式下快 5 倍。Ultrafast 模式将率先在 OpenAI API 中推出当前已面向部分客户推出有限预览版。为此OpenAI 与 Cerebras 还对当前先进 AI 大模型现在的速度和智力对比拉了个表格GPT-5.6 Sol Ultrafast 处于绝对领先的位置在 Cerebras 的博客中工程人员介绍了在「人类最后的考试」Humanitys Last Exam, HLE上进行的测试他们把 Ultrafast 后的模型与直接竞对进行了对比。我们知道HLE 是一项具有挑战性的模型基准包含 2500 道题通常只有化学、经济学和文学等领域的博士才能解答。GPT-5.6 Sol 在超快模式下仅用 11 小时 11 分钟就回答了全部问题。而 Claude Fable 5 则需要 78 小时 27 分钟也就是超过三天的连续计算才能得出相同的结论。GPT 超快模式仅用一个工作日就完成了人类知识的前沿领域在准确率相近的同时速度几乎是 Claude Fable 的 7 倍。随着模型能力的不断提升快速推理的应用范围也会扩大。GPT-5.6 Sol 是 OpenAI 迄今为止在法律文书、金融模型和工程报告方面表现最佳的模型。在 GDP-Val衡量经济价值知识工作任务的基准上Ultrafast 实现了 5.6 倍的端到端速度提升且质量未受影响充分展现了更快的推理速度如何加速经济价值工作的开展。更快的 AI 处理速度为新兴工作流增加了不少可能性人们现在可以将智能体部署到问题的关键路径上。OpenAI 为你列举了一些应用场景事件响应和可靠性当关键系统发生故障时AI 分析应用程序日志、最近的代码更改和工程师报告以确定可能的原因并在故障仍在发生时帮助准备修复方案。金融研究与安全在市场形势瞬息万变的情况下分析市场信号、评估交易并识别可疑活动。客户支持和语音实时解决复杂的客户问题即使找到答案需要多个步骤或系统也不会中断对话。商务在购物者还在犹豫不决时回答产品问题、检查库存、个性化推荐并解决结账问题避免犹豫演变成放弃购物车。实时研究和实验将以前需要一夜才能完成的研究变成交互式工作会议让团队测试想法、检查结果、调整方法并在不中断工作流程的情况下进行另一次实验。在 OpenAI 内部开发人员在超快速模式下测试了 GPT-5.6 Sol事件响应是使用 Ultrafast 的一个例子。当警报触发时工程师需要在系统和证据仍在变化的情况下构建准确的事件图景。借助 Sol 级别的智能团队可以快速读取日志、分析跟踪信息、汇总对话、确定下一步检查并协助准备或验证修复方案。Ultrafast 模式缩短了从观察到信号、验证假设到选择下一步行动之间的延迟同时工程师仍然负责判断和部署。在研究方面OpenAI 团队使用 Ultrafast 来快速搜索知识库、查询数据并快速收集、整理和汇总来自不同工具的信息。以往研究中常见的流程是团队成员在夜间启动一批实验并在第二天早上查看结果。而有了 Ultrafast发现的流程可以缩短从而支持在工作日内进行多次迭代。Ultrafast 模式的突破在于打破了传统 GPU 集群在大模型推理解码阶段的内存带宽瓶颈其实现主要依赖于 Cerebras 的晶圆级硬件架构。在 AI 芯片厂商行列中Cerebras 的解决方案独树一帜其历代芯片采用整片晶圆制成在单片上集成了海量计算核心与超高速互联网络。传统 GPU 在运行大模型自回归解码生成 Token 时受限于显存带宽需要不断将庞大的模型权重在片外 HBM 和计算核心之间往返搬运同时多卡切分还会带来跨芯片互连PCIe/NVLink的通信延迟。而每块 Cerebras 最新的晶圆级芯片WSE-3集成了 4 万亿晶体管125 petaflops 的 AI 算力和高达 44 GB 的片上高速 SRAM模型参数直接全部常驻在超高带宽的片上 SRAM 中避免了反复从片外内存加载权重的等待时间。当然GPT-5.6 Sol 作为前沿旗舰模型完整参数量显然远超芯片容量。Cerebras 还有「多晶圆流水线并行Pipelined across wafers」机制其将模型的各网络层分别分布于多颗晶圆上每层参数常驻于各自芯片的 SRAM 中能让 Token 在晶圆间无缝流水传输。对于众多大模型用户来说旗舰模型 14 倍速会意味着以前不少必须切换次级模型如 Luna 和 Terra的任务现在可以直接放心地满血跑对于需要多轮工具调用、代码生成排错和复杂链式思考的 Agent 任务原本需要几小时的流程可压缩至几分钟完成。更快的速度或许也意味着我们使用 AI 的方式发生转变AI 社区里人们已经在期待 Luna 和 Terra 版的超高速模式了就是不知道 Cerebras 的芯片是否够用。