responsible-ai 开源项目推荐（2,569 个）

ifixai-ai /iFixAi

AI 智能体的独立审计。可由人类或智能体自身运行，以回答 AI 智能体经济中最关键的问题：智能体是否在做它应该做的事？使用 iFixAi，你可以在不到 120 秒内得到答案。

EthicalML /awesome-production-machine-learning

一份精选的优秀开源库列表，用于部署、监控、版本管理和扩展你的机器学习

Giskard-AI /giskard-oss

用于 LLM Agents 的开源评估与测试库

microsoft /PyRIT

微软开源 AI 红队测试工具包。通过自动扫描、自适应多轮攻击和 Web UI 测试生成式 AI 系统。

TarrySingh /Artificial-Intelligence-Deep-Learning-Machine-Learning-Tutorials

深度学习/人工智能和机器学习教程的全面列表-快速扩展到人工智能/深度学习/机器视觉/ NLP领域以及气候/能源、汽车、零售、制药、医学、医疗保健、政策、道德等行业特定领域。

fairlearn /fairlearn

一个用于评估和改进机器学习模型公平性的 Python 包。

microsoft /responsible-ai-toolbox

Responsible AI Toolbox 是一套工具，提供模型和数据探索与评估的用户界面和库，帮助更好地理解 AI 系统。这些界面和库使 AI 系统的开发者和利益相关者能够更负责任地开发和监控 AI，并采取更好的数据驱动行动。

ModelOriented /DALEX

用于探索与解释的模型无关语言

limingrui679-design /high-stakes-analytics-decision-lab

一种平台中立的分析技能，可剖析杂乱数据、选择适应案例的方法，并为高风险决策生成有来源支持的视觉报告。

microsoft /rag-time

RAG Time：掌握 RAG 的 5 周学习之旅

lynote-ai /ai-text-detector

一个谨慎、可解释的 AI 文本检测器，适用于本地工作流和编码代理。需要在应用中实现生产级检测？试试 Lynote AI Detector API → lynote.ai/ai-detector-api

chrisliu298 /awesome-llm-unlearning

大型语言模型机器遗忘的资源库

HowieHwong /TrustLLM

[ICML 2024] TrustLLM：跨真实性、安全性、公平性、鲁棒性、隐私和伦理的 LLM 可信度评估。用于本地模型、兼容 API 和 AI 代理编排的 Python/CLI 工具包。

PacificAI /langtest

交付安全且有效的语言模型

aaryansamanta /nextgen-ai

由国际学生主导的组织，致力于扩展合乎伦理且可及的 AI：研讨会、全球大使计划、50+ 成员、在美国和台湾的合作。成立宗旨是培养下一代负责任的 AI 领导者。

tensorflow /model-card-toolkit

一个简化和自动化模型卡生成的工具包

BichengWang /ai-decision-system

用于 AI 辅助 go/no-go 决策的可重放、可离线验证记录：类型化模型答案、策略门控审批、A/B 发布门禁、发布门禁。

microsoft /iq-series

IQ系列是针对Microsoft IQ的实践学习体验：Microsoft为企业打造的统一智能层，涵盖Foundry IQ、Work IQ和Fabric IQ。该系列包括视频集、Jupyter笔记本和Azure部署模板。

Bria-AI /FIBO

FIBO 是 SOTA、首个开源、JSON 原生的文本到图像模型，专为可控、可预测且法律安全的图像生成而构建。

lynote-ai /ai-image-detector

Open-source CLI, API, web UI, and reproducible benchmarks for probabilistic AI-generated image detection.