从Black Hat到GitHubAI-Infra-Guard开源之路与社区生态全景【免费下载链接】AI-Infra-GuardA full-stack AI Red Teaming platform securing AI ecosystems via Agent Scan, Skills Scan, MCP scan, AI Infra scan and LLM jailbreak evaluation.项目地址: https://gitcode.com/GitHub_Trending/ai/AI-Infra-GuardAI-Infra-Guard是腾讯朱雀实验室开源的全栈AI安全红队平台一站式提供 AI 基础设施漏洞扫描、MCP Server 安全扫描、Agent Skill 审计、Agent 工作流扫描与大模型越狱评估五大能力帮助企业和安全新手在 10 分钟内给自己的 AI 应用做一次安全体检。它从 Black Hat Europe 2025 的 Arsenal 演讲走向开源社区如今已被全球 19 篇学术论文引用成为 AI 红队测试领域绕不开的工具。一、从Black Hat讲台上走来项目缘起2025 年腾讯朱雀实验室在Black Hat Europe Arsenal带来了两场重磅分享《AI-Infra-Guard: An AI Red Teaming Platform》——完整展示了平台能力与实战用例《MCP Unchained: Compromising The AI Agent Ecosystem Via Its Universal Connector》——揭示了 MCP 协议在 AI Agent 生态中的安全风险。相关演讲稿就存放在仓库中可直接阅读Arsenal-BHEU2025-AI-Infra-Guard.pdf、BHEU-25-MCP-Unchained-Compromising-The-AI-Agent-Ecosystem-Via-Its-Universal-Connector.pdf。会后团队决定将实验室内部使用的红队能力开源让每个开发者都能免费做 AI 安全自查。截至最新版本 v4.6.1平台的漏洞规则库已覆盖146 个 AI 组件、2000 CVE 规则迭代节奏保持在每月一个功能版本详见 CHANGELOG.md。二、五大扫描能力AI红队测试全景图1️⃣ AI基础设施漏洞扫描给 Ollama、vLLM 做体检部署在 data/fingerprints/ 中的 140 份指纹规则可自动识别 Ollama、ComfyUI、vLLM、n8n、Triton、Dify、Langflow 等主流 AI 框架组件再与 data/vuln/ 中 2000 条 CVE/GHSA 规则比对。你只需填入一个正在运行的 AI 服务地址如http://127.0.0.1:11434几分钟后就能拿到组件版本、漏洞详情、CVSS 评分与修复建议。2️⃣ MCP Server 与 Agent Skill 扫描守住万能连接器MCPModel Context Protocol正在成为 AI Agent 的USB 接口接口越通用风险越大。mcp-scan/ 模块基于 AI Agent 对 MCP Server 源码做三阶段审计信息收集 → 代码审计 → 漏洞整理覆盖提示词注入、SSRF、命令注入、凭据泄露等 14 大类风险并支持 SARIF 2.1.0 输出直接接入 CI/CD。Skill-Scan则专门审计 Agent Skill识别 9 大类风险指令劫持、记忆投毒、远程载荷执行、权限提升等在 SkillTrustBench 基准上 F1 高达 0.9848一条命令即可安装pip install aig-skill-scanskill-scan/。3️⃣ Agent Scan评估 AI Agent 工作流的失控风险agent-scan/ 是独立的多 Agent 自动扫描框架支持 Dify、Coze 等平台上的 Agent 工作流检测间接提示词注入、SSRF、系统提示词泄露、数据外传等运行时风险检测技能持续对齐 OWASP AI 威胁清单扩展。4️⃣ 越狱评估给大模型做压力测试AIG-PromptSecurity/ 内置 10 种攻击策略编码混淆、角色扮演、多轮攻击 Many-Shot/PAIR/GOAT 等数据集存放在 data/eval/。配置好目标模型的 API 后即可看到跨模型对比的安全等级、评分与风险率报告三、架构演进从单文件二进制到多模块平台项目架构经历了三个阶段完整脉络见 docs/architecture_evolution.md阶段形态核心能力v0.1Go 单文件二进制AI 基础设施指纹扫描 WebUIv2.6Go 双引擎基础设施扫描 MCP 代码分析v3.6Go Python 混合平台四大扫描引擎 插件框架 Docker 一键部署背后的设计哲学很清晰规则先行、LLM 增强——确定性检测交给 YAML 规则引擎保证速度与一致性复杂场景MCP 代码审计、Agent 模拟攻击才叠加 LLM 推理所有规则以 YAML 存放在 data/ 目录版本化管理支持带外热更新这正是社区能够低成本贡献规则的原因。四、社区生态全景谁在用 AI-Infra-Guard一个开源项目的生命力最终由社区定义。从 Star 贡献者的机构分布可以看到AI-Infra-Guard 的用户群横跨互联网大厂、高校与安全研究团队 企业用户腾讯、DeepSeek、蚂蚁国际、联想、工商银行、vivo、OPPO、海尔、哔哩哔哩、去哪儿、蜜雪冰城、金蝶、长安汽车、中国电信等 20 家机构已在生产环境使用致谢名单见 README.md Appreciation for Our Users 一节。 学术生态清华大学、北京大学、复旦、浙大、南洋理工、西安交大等 15 所高校的研究者参与使用与引用已有19 篇学术论文引用该平台研究方向覆盖 MCP 安全、Agent 供应链、越狱攻防等完整引用清单见 README.md Research Papers 一节。 研究项目开源仓库内 Research/ 目录还沉淀了多个研究项目包括揭示自进化 Agent 持久后门攻击的 SkillJack、覆盖 14560 次 Agent 运行的 DeepSeek Harness 间接提示词注入评估以及研究 Agent 失控问题的 FORGE-Bench。 Agent 技能生态通过 skills/ 目录发布的 4 个官方技能EdgeOne ClawScan、EdgeOne Skill Scanner、AIG Scanner、Agent RedTeam可被 ClawHub 生态的 Agent 直接安装调用让安全扫描本身成为 Agent 工作流的一部分。五、快速上手三步部署你的AI安全扫描平台环境要求Docker 20.10、内存 4GB、磁盘 10GB。git clone https://gitcode.com/GitHub_Trending/ai/AI-Infra-Guard cd AI-Infra-Guard docker-compose -f docker-compose.images.yml up -d打开http://localhost:8088即可使用Web 界面支持中/英双语。也可以使用一键脚本docker.sh自动安装 Docker 并启动。更详细的步骤参考 docs/ 与 API 文档 api.md。⚠️ 注意A.I.G 定位为内网自检工具缺少认证机制请勿直接暴露在公网。六、如何参与贡献规则比贡献代码更简单A.I.G 的插件化架构让贡献的门槛非常低——你不需要改一行代码只需添加 YAML 规则文件规则格式见 CONTRIBUTING.md想做什么文件放哪里新增 AI 组件指纹data/fingerprints/新增漏洞扫描规则data/vuln/新增 MCP 检测规则data/mcp/新增越狱评估数据集data/eval/此外AIG-PromptSecurity/plugin/ 目录下提供了自定义攻击、指标、漏洞插件的完整示例适合想深入定制红队策略的进阶用户。写在最后从 Black Hat 讲台上的演示到被 19 篇论文引用的开源基准AI-Infra-Guard 走出了一条研究驱动产品、产品反哺社区的路径。当你的团队部署了第一个 LLM 应用、接入了第一个 MCP ServerAI 安全自查就不再是要不要做的选择题——而 AI-Infra-Guard 提供的正是那条从担心到验证的最短路径。 官方文档站点项目首页Documentation入口 | 交流群见 README.md Join the Community 一节的微信群与 Discord 入口 | ⚖️ 开源协议Apache 2.0【免费下载链接】AI-Infra-GuardA full-stack AI Red Teaming platform securing AI ecosystems via Agent Scan, Skills Scan, MCP scan, AI Infra scan and LLM jailbreak evaluation.项目地址: https://gitcode.com/GitHub_Trending/ai/AI-Infra-Guard创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考