技术解读

以下内容由 GitRead 中文社区 编辑团队基于项目 README 与官方资料整理, 结合中文开发者的常见使用场景补充技术选型建议。具体以项目官方文档为准。

AI-Infra-Guard 深度拆解:给 AI 技术栈做一次全链路红队体检

项目背景与痛点

过去两年,AI 应用的部署方式发生了一个危险的变化:门槛急剧下降,但安全基线没有同步跟上。Ollama、vLLM、ComfyUI、Open WebUI、Gradio、Dify、各类 MCP Server 和 Agent 框架,几乎都是“先跑通再说”的产物。默认不鉴权、默认监听 0.0.0.0、默认把管理面板暴露在公网,是这一批组件的常态。

传统的漏扫工具在这里几乎派不上用场。Nessus、AWVS 这类工具不理解“这个 11434 端口上跑的是 Ollama,而且它的 /api/pull 可以被任意调用”;通用 Nuclei 模板也不认识 MCP 工具描述里的提示注入。另一方面,LLM 越狱评测又散落在 garak、PyRIT 之类的专用脚本里,和基础设施漏洞报告之间没有对应标准。

Tencent/AI-Infra-Guard 想解决的正是这个断层:把“AI 基础设施漏洞”“Agent 行为风险”“LLM 越狱成功率”放进同一个平台、同一套报告体系里。对安全团队来说,这意味着不用再拼凑五六个工具才能凑出一份 AI 资产安全评估。

核心技术揭秘

从工程形态看,这是一个典型的 Go 后端 + Web 前端 + YAML 规则库 的组合。Go 编译成单二进制、依赖少,配合容器化部署,非常适合企业内网私有化落地;规则外置成 YAML,则意味着扫描能力可以像 Nuclei 模板一样被社区和甲方持续补充,而不是写死在代码里。

真正值得看的是它的分层设计:扫描不是在“猜漏洞”,而是在“先认人,再对症下药”。AI 组件往往有极强的指纹特征——favicon 哈希、静态资源路径、特定 API 响应结构、默认端口,识别出组件和版本之后,再挂载对应的规则集。这既提高了命中率,也避免了盲目探测把目标服务打挂。

而在 Agent / MCP / Skills 这几层,逻辑完全不同。这些攻击面不在 HTTP 报文里,而在语义层:工具描述里藏一句隐式指令、参数校验缺失导致 SSRF 或命令注入、权限授予过大导致越权调用。这类检测必须引入 LLM 参与判定(判断一段工具描述是否构成“投毒”),再用规则断言兜底,否则纯规则覆盖不了语义变体,纯模型又会有幻觉误报。

graph TD A[用户创建扫描任务] --> B[任务编排与资产测绘] B --> C{"扫描类型选择"} C -->|"AI Infra"| D[组件指纹识别与版本探测] C -->|"MCP / Skills"| E[工具描述与权限风险分析] C -->|"Agent Scan"| F[提示注入与越权链路测试] C -->|"LLM 越狱"| G[越狱数据集批量评测] D --> H[YAML 规则匹配与并发探针] E --> H F --> I[多轮对话对抗与模型裁判] G --> I H --> J[结果归一化与去重] I --> J J --> K[风险评级与报告输出]

越狱评测那一块,本质上是一个自动化的红队回归测试:用角色扮演、编码绕过、多语言改写等成套数据集去打目标模型,统计突破率并按危害分级。它的价值不在于“证明模型不安全”,而在于让模型迭代时有一个可对比的安全基线。

功能亮点与差异

第一,覆盖层次是它的护城河。市面上大多数工具只做一件事:要么扫基础设施,要么评越狱。AI-Infra-Guard 把“资产发现—组件漏洞—Agent 行为—模型对齐”串成一条链,报告标准统一,这对要做安全准入的团队来说省了大量整合成本。

第二,规则可扩展。企业内部的私有推理平台、自研 Agent 框架,别人的规则库永远覆盖不到,但你可以自己写 YAML 补进去。这一点决定了它能不能真正嵌进企业的安全流程,而不只是做一次性体检。

第三,面向 MCP / Agent 这种新攻击面做了工程化落地。这类风险今年才被广泛讨论,能拿出可运行扫描能力的开源项目并不多。

第四,私有化友好。数据不出网,对金融、政企这类客户是硬性门槛。

应用场景与落地建议

适合的场景很明确:大模型平台上线前的安全准入检查、内部 AI 资产测绘、Agent 产品迭代前的红队回归、以及合规审计时的证据留存。

但落地时有三点必须提前想清楚:

  1. 它有副作用。Agent Scan 会真的触发工具调用,越狱评测会真的向模型发送攻击性提示。一定要在预发环境或隔离网络跑,直接对生产 Agent 做工具滥用测试,后果自负。
  2. 规则库会滞后于 CVE。别把它当成“装完就安全”的解决方案,配合漏洞订阅和自建规则,才能维持有效性。
  3. LLM-as-judge 有误判。越狱评测的“突破率”应当作信号看,不是结论。关键样本建议人工复核。
  4. 结果要进 CI/CD。如果只是季度跑一次出个 PDF,那它的价值会打对折;把它接进发布流水线,做增量扫描和基线比对,才是正确用法。

综合评价

优点:定位精准,抓住了 AI 技术栈“资产多、组件杂、攻击面新”的核心矛盾;规则驱动的架构让它具备长期演进能力;多层次覆盖和私有化部署,切中了企业安全团队的真实需求。

缺点:平台化路线意味着单点深度可能不如专用工具——越狱评测的对抗强度未必比得过 PyRIT 这类专精项目,基础设施扫描的 POC 数量也还在积累期;规则质量参差,需要人工校验;对非 HTTP 形态的 AI 服务(gRPC 推理服务、消息队列式 Agent)覆盖有限;项目较新,文档和生态仍在快速迭代。

一句话总结:它不是全链路防护工具,但它是目前国内少有的、把 AI 红队测试真正工程化的开源选项。如果你的团队正在被“我们到底有多少个 AI 服务暴露在外”这个问题困扰,它值得进你的工具箱。

关于

GitHub 原始描述(英文)

A full-stack AI Red Teaming platform securing AI ecosystems via Agent Scan, Skills Scan, MCP scan, AI Infra scan and LLM jailbreak evaluation.

描述取自 GitHub 官方 API,保持仓库作者书写的原文。

简要分析

热度分
8985
价值分
4693
活跃状态
活跃

语言占比

CSS
Dockerfile
Go
HTML
JavaScript
Jupyter Notebook
Python
Shell
TypeScript