js-yoo / xai_kimst2020

"XAI를 위한 Attribution Method 접근법 분석 및 동향 Analysis and Trend of Attribution Methods for XAI" 에서 사용한 코드와 예시를 공개

Analysis and Trend of Attribution Methods for XAI

한국군사과학기술학회 Korea Institute of Military Science and Technology 에서 주관하는 2020 한국군사과학기술학회 종합학술대회에 센서신호 session에 제출한 "XAI를 위한 Attribution Method 접근법 분석 및 동향 Analysis and Trend of Attribution Methods for XAI" 중 3절 실험 파트에서 사용한 코드와 예시를 공개하기 위해 만들었습니다.

Models & Techniques

해당 논문에서는 Image Classification에서의 XAI 예시를 보기위해 아래의 기법을 사용했습니다.

Model : Resnet18 (pretrained)
XAI : Integrated Gradient, SmoothGrad
demo에서는 위의 두가지 기법만 다루었지만, 이외의 다른 기법도 가능합니다. 그리고 Captum을 사용했습니다.

Installation

Installation Requirements

• Python >= 3.6
• PyTorch >= 1.2
• conda == 4.9.2

Installing the latest release

The latest release of Captum is easily installed either via Anaconda (recommended):

conda install captum -c pytorch

or via pip:

pip install captum

Sample Outputs

Reference

XAI를 위한 Attribution Method 접근법 분석 및 동향
Axiomatic Attribution for Deep Networks
SmoothGrad: removing noise by adding noise

Author

---

Joonsang Yoo / @js-yoo