黑帽大会2026:AI安全大热,人类专家不可替代 📅 2026/8/11 2:21:40 拉斯维加斯上周热浪滚滚但远不及Black Hat USA 2026大会上AI安全市场的火爆程度。一批资金充裕的智能体安全初创企业纷纷搭建起价值百万美元的展台如同沙漠中的海市蜃楼。好在真正有价值的内容并未被AI幻觉所淹没。AI供应链安全挑战成为本届大会首席信息安全官和研究人员热议的核心议题。他们相互比较各自应对智能体AI冲击的准备程度涉及Anthropic PBC Mythos级逃逸漏洞的时断时续、OpenAI与Hugging Face攻击事件乃至Meta平台为了不甘落后而声称自己也遭遇了类似情况。我认为这一事件很好地说明了如何利用AI已知的不确定性能力——在更短的时间内产生大量代码和流量从而掩盖滥用行为Dropzone AI公司产品负责人Patrick Duffy表示。该公司在本次大会上发布了新品AI Threat Hunter。人类团队根本无法同时发起上千次调查来做出响应。有一点自去年自主安全运营中心SOC热潮以来已被充分证伪AI自动化仍无法取代专业安全人才。不受约束的AI已经放出了魔瓶我们需要AI智能体与人类并肩作战因为面对不断扩张的威胁面专业安全人才的短缺将是长期问题。以下是我在首次参加Black Hat大会期间获得的一些新思考智能体SOC的编排之道如果对智能体加以合理治理、训练和部署它们可以大幅减轻人类安全分析师的工作负担让分析师有更多精力投入关键调查和战略安全架构设计但实现路径多种多样。Nebulock公司并不依赖告警和事件驱动而是为企业构建行为世界模型图叠加现有的安全信息事件管理、IT安全管理及告警工具实现侦测优先的智能体检测与调查。智能体集群可针对补丁发布、新CVE漏洞或安全分析师的自然语言请求自主响应后者可根据安全态势指挥中心发现的覆盖缺口提出跟进假设。Huntress Labs为数十万名多面手个人用户、服务商及中型企业提供7×24小时托管平台通过上下文培训、支持专家和SOC工作流自动化帮助难以全面覆盖安全的客户群体。我们尽量不滥用AI流行语Huntress产品营销总监Aimee Simpson表示我们确实有Athena——一个由多个子智能体构成的智能调查员负责汇总信号、开展调查、撰写事件报告以减轻SOC的工作压力。但我们的客户更关注结果。如果智能体对其发现结论把握不足任务仍会直接转交给我们的人类专家分析师——而且我们还在持续招聘他们。作为市场新进入者Strike 48带来了一个功能出奇全面的智能体SecOps平台支持多平台SOC、网络运营中心与DevOps联动内置逾300个MCP使其智能体能够与网络和开发工程工作协同解决安全问题。大型企业还可借助其前置专家团队构建专属智能体及定制集成方案。降低智能体协作风险零信任策略、最小权限访问控制、加固容器和微分段技术已发展多年最初因云原生架构兴起而在容器和临时工作负载安全领域逐步推广。如今不确定性AI智能体IP游走的特性使得在不成为业务阻碍的前提下设定边界变得比以往任何时候都更为关键。通过微分段我们将生态系统中的每项资产——工作站、服务器、运营技术和云资产——都纳入防护气泡现在我们希望从基础设施即代码延伸至云基础设施本身利用Azure、AWS或GCP内置的原生API实现身份与微分段厂商Zero Networks首席技术官Chris Boehm表示。该公司在大会上宣布将OWASP最小智能体权限原则应用于企业AI。智能体可以是你最出色的员工、最差劲的员工也可以是你的对手三者同时存在。你真的需要从智能体视角理解其意图无论它们在哪里运行智能体保障公司Certiv首席执行官Jason Needham表示。该公司为人类智能体所有者提供行为与意图监控以及包括本地模型在内的决策、策略和技术管控手段。Geordie AI可在企业范围内发现任何位置存在的智能体了解其行为和责任归属帮助安全团队协助所在组织以更低风险成功落地智能体应用。其Beam解决方案直接测试暴露面、运营智能体并作为管理工作活动的控制平面以轻量方式介入使自主性和落地推广不像典型安全解决方案那样受到过多束缚。赋予智能体更多自主权的趋势今年只增不减首席技术官Benji Weber表示甚至非技术型销售和市场团队也在采用智能体。这些团队真的用好了智能体还是只在白白消耗Token丰富和优化SOC数据资产以实现知识共享AI SOC厂商Stairwell在大会上展示了其全新的Backstory威胁情报数据发现与知识库。该系统能在数秒内从全热态实时与历史数据湖中调取数拍字节PB级别的上下文威胁数据并通过并行智能体捕获多个系统的全栈活动无需耗时费力的搜索与摄取流程。比起记录所有行为我更想找到产生行为的源头而不仅仅是一堆日志创始人兼首席执行官Mike Wiacek表示这改变了团队对安全的思维方式。如果你是一家遭抢劫的银行你是想回放劫匪的监控录像还是宁愿他已经戴上手铐我们很早就看到这列火车驶来了Crogl公司创始人兼首席执行官Monzy Merza表示。该公司在Black Hat上推广其完整企业AI SOC平台的免费单用户下载版以配合其近期发布的主权AI智能体。主权数据和私有AI能力对于希望掌控自身数据的客户而言正变得至关重要这也是我们始终提供本地部署的客户自管产品的原因。终端仍是最脆弱的攻击面大会第三天我准备录制一段采访iPhone录音应用却提示通话期间无法录音——明明没有任何通话进行手机还有些发烫只好重启。或许是Black Hat现场某位参展者正在我的终端上演示一个有趣的攻击手法当今最具破坏力的攻击往往来自针对员工桌面或手机的内部威胁当智能体在终端上行为的特征与意图均不明朗时识别难度尤为突出。Ent SecurityAthena Formation公司高调亮相融合了用户与实体行为分析、终端检测与响应、应用控制、数据与终端保护、用户界面监控及远程访问分析等多项能力共同构建面向人类、AI及应用程序的意图感知保护层。你需要在用户工作空间内捕获高保真遥测数据涵盖鼠标点击、文件打开、截图、应用焦点切换乃至可能登录并接管桌面的远程工作者和智能体Ent产品营销副总裁Janani Nagarajan表示例如某客户在部署首日就发现一名员工邀请朝鲜某用户加入Zoom会议并将远程访问权限移交给对方团队得以及时介入干预。针对移动应用——其代表了人类用户互联网流量的大部分——Appdome发布了全新的移动测试工程能力和远程管理智能体解决方案。该方案支持发布者在应用构建、打包并上架应用商店后进行实时配置和安全更新以便在两次大版本发布之间出现新威胁时及时为线上用户压缩漏洞利用窗口。提升DevSecOps协作效能DevSecOps并未消亡只是热度不如以往。但安全团队仍需与开发和运营团队紧密协作才能真正兑现公司对AI计划的价值预期。RevEng.AIBinary AI公司构建了一套机器码验证层可对包括二进制文件在内的生产软件进行威胁与风险探测。不同于模仿静态或动态应用安全测试扫描也不同于构建另一个理解英语的大语言模型它训练了一个能在底层理解二进制计算机代码的大型模型。如果今天AI已经在编写大量代码未来为什么AI还要写便于人类理解的代码为什么要用Python而不是直接用编译型语言甚至直接生成二进制速度快上百倍乃至千倍首席执行官James-Patrick Evans表示但问题在于我们必须保障这些代码的安全确保其输出真实可靠。软件供应链厂商RapidFort展示了一项新能力不仅监控构建中已批准的软件包还能在容器运行时监控软件物料清单以防生产环境出现漂移。随着智能体以前所未有的速度编写基础设施代码并引入软件包新的攻击向量层出不穷。我们已经见过开发者凭证遭到入侵导致看似合法的npm包被推送至GitHub首席营销官Mike Wood表示人和智能体以为这个更新可以安全下载结果里面藏有恶意软件。因此我们的镜像必须经过两周的烘焙和两周的冷却才会向客户开放这样可以确保任何问题都已被厂商社区和数千名开发者及终端用户发现。我还与AISLE公司进行了深度交流这是一家专注于AI赋能软件交付生命周期修复工作的深度思考型初创企业。该公司已公开披露多个全新零日漏洞的通用漏洞与扩展并登上多项研究排行榜榜首其中包括16个OpenSSL漏洞以及Mythos级模型可生成的此前未知攻击向量。这些并非只是流氓模型我们谈论的是主要AI公司蓄意降低旗舰模型的防护措施以测试其能力上限——而这一切发生在它们本不应访问互联网的情况下首席运营官兼首席信息安全官Jaya Baloo表示我们希望对其进行验证并以不破坏其他功能的修复方案优先开展修复。万不得已……关掉智能体Straiker公司以极具未来感的赛博朋克风格展示了其多智能体攻防解决方案并发布了一款全新游戏——展柜中的玻璃罩下只有一个按钮智能体紧急停止开关。我忍不住按下了那个按钮感觉自己像是加油站里最后一个站在燃料泄漏的Token泵旁的人。我们已调优的模型可执行检测任务检测远程代码执行、间接提示注入及细粒度拦截但有时你真的需要按下一个按钮直接关掉行为异常的智能体Straiker产品负责人Parth Shah表示归根结底任何将AI纳入软件的人都需要坐在驾驶位上不能让供应链中的其他人掌握那个停止开关。Intellyx观点如果说自去年智能体SOC热潮以来有一件事已被彻底证伪那就是AI智能体能够取代人类安全专业人员。能够跟上AI带来的变革节奏的熟练SecOps团队成员永远不会充足更遑论应对那些将敏感工作托付给AI的员工的混乱行为。值得庆幸的是在Black Hat上不难看出这些厂商在自家产品中运用AI的速度有多快以及他们如何借助AI增强人类认知以保障无处不在的AI驱动型应用的安全。AI和智能体能够为人类安全团队带来的价值绝非海市蜃楼。新兴初创企业能在不到一年内构建出多个企业级安全解决方案这本身就是AI开发惊人加速度的有力佐证。但只有作为共同体携手提升构建者和从业者的安全意识与专业能力才能帮助我们走向一个更加确定的未来。本文作者Jason English为Intellyx首席分析师兼首席营销官为SiliconANGLE撰稿。撰文时Appdome、Dropzone AI和Straiker为Intellyx现有客户Crogl和Zero Networks为前客户。大会承担了分析师的出席费用此为行业惯例。(C)2026 Intellyx B.V.QAQ1智能体SOC真的能替代人类安全分析师吗A目前来看智能体SOC无法替代人类安全专业人员。Black Hat 2026大会上多家厂商均证实AI智能体虽然可以承担告警汇总、调查报告撰写等重复性工作但在结论置信度不足时仍需转交人类专家处理。熟练安全人才的短缺是长期问题AI智能体的定位是与人类协作而非取而代之。Q2Dropzone AI发布的AI Threat Hunter产品有什么作用AAI Threat Hunter是Dropzone AI在Black Hat 2026上发布的新产品。它的核心价值在于应对AI不确定性带来的安全挑战——当AI在短时间内产生大量代码和流量来掩盖滥用行为时人类团队无法同时发起大量调查而AI Threat Hunter可以并行处理大规模威胁调查任务弥补人力上的不足。Q3Zero Networks在本届大会上宣布了什么新进展AZero Networks在Black Hat 2026上宣布将OWASP最小智能体权限原则正式应用于企业AI安全管理。通过微分段技术为企业生态系统中的每项资产包括工作站、服务器、运营技术和云资产建立防护隔离并延伸至利用Azure、AWS、GCP原生API管理云基础设施本身以应对AI智能体IP游走带来的新型安全风险。