explainability 开源项目推荐（832 个）

shap /shap

一种解释任何机器学习模型输出的博弈论方法。

EthicalML /awesome-production-machine-learning

一份精选的优秀开源库列表，用于部署、监控、版本管理和扩展你的机器学习

interpretml /interpret

适合可解释的模型。解释黑匣子机器学习。

MAIF /shapash

🔅 Shapash: User-friendly Explainability and Interpretability to Develop Reliable and Transparent Machine Learning Models

CodeBoarding /CodeBoarding

代码库的交互式架构图

hila-chefer /Transformer-Explainability

[CVPR 2021] Official PyTorch implementation for Transformer Interpretability Beyond Attention Visualization, a novel method to visualize classifications by Transformer based networks.

microsoft /responsible-ai-toolbox

Responsible AI Toolbox 是一套工具，提供模型和数据探索与评估的用户界面和库，帮助更好地理解 AI 系统。这些界面和库使 AI 系统的开发者和利益相关者能够更负责任地开发和监控 AI，并采取更好的数据驱动行动。

alexgreensh /attention-span

Make your agents talk human. ADHD-friendly output styles for Claude Code, Codex, and others. So you can pay attention, not tokens.

voidful /hung-yi-lee-skill

一个 Karpathy 风格的 LLM wiki + skill，用于以李宏毅老师的教学风格回答 AI 相关问题。

EthicalML /xai

XAI——面向机器学习的可解释性工具箱

hila-chefer /Transformer-MM-Explainability

[ICCV 2021- Oral] 用于解释双模态和编码器-解码器 Transformer 的通用注意力模型可解释性的官方 PyTorch 实现，这是一种可视化任何基于 Transformer 网络的新方法。包含 DETR、VQA 的示例。

flyingdoog /awesome-graph-explainability-papers

Papers about explainability of GNNs

h1st-ai /h1st

Power Tools for AI Engineers With Deadlines

mmschlk /shapiq

Shapley Values and Shapley Interactions for Machine Learning

MisaOgura /flashtorch

Visualization toolkit for neural networks in PyTorch! Demo -->

alvinwan /neural-backed-decision-trees

Making decision trees competitive with neural networks on CIFAR10, CIFAR100, TinyImagenet200, Imagenet

xmed-lab /CLIP_Surgery

[模式识别25]CLIP 手术：开放词汇任务的提升解释性

explainX /explainx

用一行代码解释并调试任何黑盒机器学习模型。

haofanwang /Score-CAM

Official implementation of Score-CAM in PyTorch

wisent-ai /ster

该项目在 GitHub 上没有填写描述