Captum
Captum是面向PyTorch生态的开源模型可解释性工具库，专注于帮助开发人员和研究者理解深度神经网络预测结果的生成逻辑，支持多种数据类型的模型解释工作
Captum是面向PyTorch生态的开源模型可解释性工具库，专注于帮助开发人员和研究者理解深度神经网络预测结果的生成逻辑，支持多种数据类型的模型解释工作。核心功能涵盖特征归因、神经元 attribution和模型比较，适配图像、文本、表格等主流数据类型的深度学习模型。目标用户包括AI算法研究者、深度学习开发工程师、高校AI方向师生，适合用于模型调试、论文实验验证、算法改进以及模型透明度提升等场景。
- 适用对象
- AI算法研究者(研究模型可解释性)
- 主要功能
- 特征归因分析、层级归因分析
- 计费方式
- 免费
- 平台
- 网页
- 已收录
- 2026.09.04（54 天）
阅读目录
编辑评测与站内热度
编辑综合评分
满分 5 分
六维指标基于站内真实数据（热度、社区反馈、资料完整度、可达性核验等）综合评估，非用户投票。
全站热度排名
#1970
分类内排名
#43 / 178
累计站内点击
1
近 7 日点击
1
排名与点击为站内真实统计口径，反映 Toolifai 用户行为，非编辑评分。
Captum是什么，怎么使用？
约 4 分钟Captum是面向PyTorch生态的开源模型可解释性工具库，专注于帮助开发人员和研究者理解深度神经网络预测结果的生成逻辑，支持多种数据类型的模型解释工作。核心功能涵盖特征归因、神经元 attribution和模型比较，适配图像、文本、表格等主流数据类型的深度学习模型。目标用户包括AI算法研究者、深度学习开发工程师、高校AI方向师生，适合用于模型调试、论文实验验证、算法改进以及模型透明度提升等场景。
主要功能
- 特征归因分析：针对模型输出结果，计算输入特征中每个特征对最终预测结果的贡献度，使用者仅需导入Captum库，加载训练完成的PyTorch模型，调用对应算法接口即可生成归因热力图，可直观展示输入数据的哪些部分推动了模型输出结果。
- 层级归因分析：支持对神经网络任意隐藏层的神经元激活结果进行归因计算，可帮助使用者定位隐藏层中哪些神经元对特定输入特征或最终输出产生主要影响，方便研究人员分析模型内部的特征提取逻辑，辅助网络结构优化调整。
- 多算法支持：内置多种主流可解释性算法，包括Integrated Gradients、Gradient SHAP、 occlusion Sensitivity、LIME等，使用者可根据自己的模型类型和研究需求选择对应算法，无需自行实现算法逻辑，直接调用封装好的接口即可。
- 适配PyTorch生态：原生适配PyTorch框架，无需复杂的模型格式转换流程，只要模型基于PyTorch训练完成，即可直接接入Captum进行分析，同时支持TorchVision、Hugging Face Transformer等主流PyTorch生态项目，兼容性良好。
- 多数据类型支持：可处理图像、文本、时间序列、表格等多种常见深度学习数据类型，针对图像数据可生成像素级的归因热力图，针对文本数据可生成词语级的贡献度评分，满足不同领域深度学习模型的可解释性需求。
- 可视化工具集成：提供基础可视化接口，可结合Matplotlib等Python可视化库快速生成归因结果图表，帮助使用者直观展示分析结果，方便用于技术报告或学术论文的结果呈现，降低结果可视化的开发成本。
怎么使用
- 第一步，确认本地已安装PyTorch框架，通过pip命令直接安装Captum库，完成环境依赖配置，确保项目环境可正常调用库函数。第二步，加载本地已经训练完成的PyTorch模型，将模型设置为评估模式，关闭dropout等训练特有的网络层操作，保证结果稳定。第三步，准备待分析的输入样本数据，根据数据类型调整数据格式，确保数据维度与模型输入要求保持一致，避免维度错误问题。第四步，根据分析需求选择对应的归因算法，初始化算法实例并传入模型，调用attribute方法输入待分析样本，计算得到特征归因结果。第五步，将计算得到的归因结果传入可视化函数，调整参数生成可视化图表，对结果进行分析，提取对模型预测有影响的核心特征。
适合什么人群
- AI算法研究者(研究模型可解释性)
- 深度学习开发工程师(调试PyTorch模型)
- 高校计算机专业师生(AI方向课程实验)
- AI产品开发人员(提升模型透明度)
- 计算机视觉研究员(分析图像模型逻辑)
- 自然语言处理研究者(分析文本模型逻辑)
总结
这是一款由Facebook AI团队开发维护的开源PyTorch模型可解释性工具库，依托PyTorch生态的原生适配性，解决了深度学习领域模型黑箱问题的分析需求。当前深度学习模型尤其是深度神经网络的内部逻辑一直难以直观理解，该工具库封装了当前主流的多种可解释性算法，让开发人员和研究者不需要从零实现算法，即可快速对自己训练的模型进行归因分析。工具库文档完整，提供了大量针对图像分类、文本分类等常见任务的示例代码，新手也可以按照示例快速跑通分析流程。对于需要撰写学术论文展示模型可解释性的研究者，或者需要排查模型错误预测原因的开发人员，都可以通过该工具获得可信的分析结果，帮助推进研究或开发工作，在PyTorch生态中，是模型可解释性分析方向的常用工具。
价格与免费额度
Captum是完全开源免费的工具库，遵循BSD协议，所有功能均可免费使用，不存在功能限制，也不需要支付任何授权费用，个人使用者和商业使用者都可以免费下载安装使用，也可以基于源码进行修改和二次开发。用户仅需要在使用过程中遵守开源协议的相关要求，标注源码来源即可。对于需要商业项目集成的使用者，也不需要支付授权费用，没有使用规模和部署场景的限制，适合各类场景下的模型可解释性分析工作。
优点与不足
优点
- 原生适配PyTorch框架，无需模型格式转换
- 内置多种主流可解释性算法，无需自行开发
- 支持图像、文本、时序等多类型数据处理
- 开源免费，代码托管于GitHub，可二次开发
- 官方文档完善，提供多场景示例代码
不足
- 仅支持PyTorch框架，不兼容TensorFlow等其他框架
- 高级可视化功能需要自行结合第三方库实现
- 对大规模超深度模型的分析运行速度较慢
- 复杂自定义模型需要调整接口适配，存在一定学习成本
能帮你做的 8 件事
- 01特征归因分析
- 02层级归因分析
- 03多算法支持
- 04适配PyTorch生态
- 05PyTorch工具库场景的常用方案
- 06模型可解释性场景的常用方案
- 07AI算法研究者(研究模型可解释性)的日常效率工具
- 08零成本体验完整核心功能
更新历史
- 页面资料核验与信息更新
- Captum 收录进 Toolifai 目录
常见问题
Captum是否支持非PyTorch框架的模型？
Captum原生仅支持基于PyTorch框架训练的模型，暂不直接支持TensorFlow、Keras、MXNet等其他深度学习框架的模型。如果需要分析其他框架的模型，需要先将模型参数转换为PyTorch格式的模型，再接入Captum进行分析，转换过程可能会存在一定误差，因此不推荐用该工具分析非PyTorch框架训练的模型。
新手需要多长时间可以上手使用Captum？
如果使用者已经熟悉PyTorch框架的基本使用，掌握Python基础开发能力，结合官方提供的示例代码，一般半天到一天即可完成基础功能的上手，完成简单的特征归因分析任务。如果需要使用高级功能，针对自定义模型做调整，则需要花费1-3天学习接口适配方法，理解不同归因算法的适用场景，才能获得准确的分析结果。
Captum可以用于学术论文的实验吗？
Captum封装的多种归因算法都是学术界主流的可解释性算法，算法实现经过社区多个开发者验证，结果准确可靠，可以用于学术论文的实验部分。工具本身也可以在论文中直接引用，官方提供了对应的引用格式，同时生成的可视化结果也可以直接用于论文展示，满足学术研究的基本需求。
Captum支持对预训练模型进行分析吗？
Captum支持对各类PyTorch格式的预训练模型进行分析，包括Hugging Face生态中的预训练语言模型，TorchVision中的预训练图像模型，只需要正常加载预训练模型后，接入对应接口即可进行分析，不需要重新训练模型，适配性较好，可以满足预训练模型可解释性分析的需求。
使用Captum需要很高的硬件配置吗？
硬件配置要求和使用者分析的模型规模有关，如果是分析中小型模型，普通消费级GPU即可完成运行，如果是分析十亿参数以上的大模型，则需要配备更大显存的GPU才能完成计算。如果不使用GPU，仅用CPU也可以运行分析，只是运行速度会比GPU慢很多，小规模样本分析也可以在CPU环境完成。
开始使用 Captum
从官方入口了解最新功能与使用方式。
由 Toolifai 编辑维护
欢迎产品方补充截图、功能介绍与官方资料。更新和纠错由编辑审核后发布。
