[Grad-Cam] What? ; Section 1, 2

https://arxiv.org/pdf/1610.02391.pdf 

Grad-Cam이 소개된 논문입니다.

제목은 Grad-CAM : Visual Explanations from Deep Networks via Gradient-based Localization 입니다.

 

참 명료하고 매력적인? 제목인것 같습니다! 제목만 보고도 무슨 내용인지 알 것 같은 동시에 확 궁금해지는 그런~

 

제목에서 부터 알수있다 싶이 목적은 CNN의 시각적 설명입니다.

 

이를 통해 CNN 모델이 transparent and explainable해진다고 설명하네요 (XAI에서 사용되는 jargon입니다.)

 

지난번 포스팅에서 언급드렸다 싶이 CAM의 개념을 활용하고싶을때 Global Average Pooling layer가 필요했었는데,

 

Grad-CAM에서는 final convolutional layer의 결과가 predicting the concept를 하는데 important한 regions를 highlighting하는 localization map을 만들어 준다고 합니다.

 

그래서 광범위한 모델에 사용될 수 있다는 장점이 있습니다.

 

 또한 이를 통해 unreasonable predictions에 resonable explanations을 제공하는 장점이 있습니다.

 

자 개괄적인 소개와 장점 안내는 끝난 것 같습니다. 

 

다음 포스팅에서 더 자세한 소개와 이게 가능한 이유 어떻게 말이 되는건지 설명해보도록 하겠습니다.

 

Paper의 section을 따라 설명하고자 합니다.

 

Section 3에서 Grad-CAM과 Guided Grad-CAM을 소개하고,

Section 4와 5에서 localization 성능을 평가하고,

Section 6에서 image classification에 적용할 수 있는 몇몇 케이스를 소개하고,

Section 7에서 Grad-CAM이 textual explanation을 제공하는 방법을 소개하고,

Section 8에서 Visual Question Answering을 해볼 것입니다.

 

보통의 경우 section 5나 6까지만 보고 이해하면 충분합니다. 우선 천천히 가봅시다.