Captum

Captum 是一个专注于模型可解释性的 PyTorch 库，帮助开发者和研究人员清晰理解模型为何做出特定预测。它提供一套全面的工具和技术，用于归因分析跨视觉、文本等多种模态的模型预测结果，开箱即支持大多数 PyTorch 模型架构。Captum 让实现和基准测试新的可解释性算法变得直接高效，是所有致力于构建可信、透明 AI 系统的人的首选工具库。无论你是在调试模型、构建可解释 AI 系统，还是研究神经网络的推理机制，Captum 都能给你所需的透明度和可视化洞察。