microsoft /PyRIT
微软开源 AI 红队测试工具包。通过自动扫描、自适应多轮攻击和 Web UI 测试生成式 AI 系统。
Python4762
ai-attacks 开源项目推荐（4 个）
ai-attacks 话题在 GitHub 上没有填写简介，这里按 Star 数汇总最相关的热门仓库。
4收录项目
4853Star 总量
2覆盖语言
相关标签
热门项目 全部 4
GitHub 共 4 个仓库，已全部展示
webpro255 /awesome-ai-agent-attacks
A curated timeline of real AI agent security incidents, breaches, and vulnerabilities (2024-2026). Every entry sourced and dated.
90
Gautham-AI-dev /ai-network-auditor
AI Network Auditor: AI-security swarm verdicts that cut IDS false positives with signed audit trails — defends against AI attacks, governs AI agents
Python1
hallucinaut /promptinject
Detect and prevent prompt injection attacks on LLM applications
Go0
关于这个话题
- 清单取自 GitHub 话题页并按 Star 数排序，每次展示前 4 个项目；原始页面见 https://github.com/topics/ai-attacks。
- 该话题在 GitHub 上共有 4 个仓库， 本站收录的是其中最热门的 4 个，不是全量列表。
- Star / Fork 每日自动刷新一次，实时数据以 GitHub 为准。
- 当前 4 个项目累计 4853 Star，覆盖 2 种主要语言，数据更新于 2026-11-07。
- 中文介绍来自 GitHub 官方话题说明（github/explore）的机器翻译，可点「查看原文」对照；译文缺失时会先展示原文。