ai-red-teaming 开源项目推荐（184 个）

Tencent /AI-Infra-Guard

全栈 AI 红队测试平台，通过 Agent Scan、Skills Scan、MCP 扫描、AI Infra 扫描和 LLM 越狱评估来保障 AI 生态安全。

microsoft /PyRIT

微软开源 AI 红队测试工具包。通过自动扫描、自适应多轮攻击和 Web UI 测试生成式 AI 系统。

microsoft /AI-Red-Teaming-Playground-Labs

用于运行 AI 红队培训的实验室，包括基础设施。

ASCIT31 /Dark-Moon

开源自主 AI 渗透测试。涵盖 Web、API、云、Active Directory、Kubernetes、CI/CD 和 AI/LLM（OWASP LLM Top 10）的 50 个专业代理。在隐私网关后面的本地 LLM 上运行。与 GitHub、GitLab、Jenkins、VS Code、JetBrains、n8n、Grafana 和 Splunk 集成。

splx-ai /agentic-radar

用于你的 LLM 代理工作流的安全扫描器。

requie /AI-Red-Teaming-Guide

全面的对抗测试和 AI 系统安全评估指南，帮助组织在攻击者利用之前识别漏洞。

KeyValueSoftwareSystems /agent-opfor

用于 AI 代理和 MCP 服务器的开源对手模拟。

RiccardoBiosas /awesome-MLSecOps

一个开源的 MLSecOps 工具和资源列表，用于保护机器学习和 AI 系统 - 对抗性 ML 防御、LLM 安全、AI 红队、模型扫描、供应链保护和 MLOps 管道安全。

Yeti-791 /Awesome-Offensive-AI-Agentic-Landscape

此文档整理了 AI 渗透测试、LLM 红队、自主攻击性代理和漏洞发现的开源项目、学术论文、能力基准和商业解决方案（国际和中国），旨在帮助研究人员、安全工程师和企业决策者快速形成全面的视角。

appsecco /vulnerable-mcp-servers-lab

一组故意存在漏洞的服务器，用于学习渗透测试 MCP 服务器。

humanbound /humanbound

用于 AI 代理的开源对抗测试引擎、SDK 和 CLI。本地运行或针对 Humanbound 平台运行。

guardana /guardana

用于模型工件、实时端点、MCP 服务器和记录的代理跟踪的开源 AI 安全验证。为发布决策提供可重复的证据。

Repello-AI /whistleblower

举报人是一种攻击性安全工具，用于测试通过API暴露的AI应用的系统提示泄露和能力发现。为人工智能工程师、安全研究人员以及那些想了解他们日常使用的基于大型语言模型（LLM）应用内部动态的人们设计

ProjectZeroDays /AI-Driven-Zero-Click-Exploit-Deployment-Framework

这是一个由国家支持的网络/反间谍APT框架，具备AI驱动的零点击供应链攻击、自主漏洞部署、抗量子多态加密、多跳代理链的反向DoH隧道，以及集成的漏洞后模块，具备短信/电子邮件伪装功能。

Soham7-dev /AspGoat

AspGoat 是一个故意存在漏洞的 ASP.NET Core 应用程序，用于学习和实践 Web 应用程序安全。

regaan /basilisk

Basilisk — 开源 AI 红队框架，具有遗传提示进化。自动 LLM 安全测试适用于 GPT-4、Claude、Grok、Gemini。覆盖 OWASP LLM Top 10。32 个攻击模块。

kereva-dev /kereva-scanner

代码扫描器用于检查提示和 LLM 调用中的问题。

NuGuardAI /nuguard

用于评估代理 AI 应用程序的 AI 红队工具和 LLM 安全框架。测试提示注入，处理漏洞评估、SBOM 生成和静态分析。

SnailSploit /The-LLM-Red-Teamer-s-Playbook

绕过 LLM 防御层的诊断方法——从输入过滤器到持久内存利用。

beyefendi /awesome-llm-security

代理安全、LLM 安全工具、研究和文档。