https://arxiv.org/pdf/1706.03825.pdf
입력이미지에 대한 class score의 gradient를 계산하는 과정에서,
입력에 noise를 주어 생성된 여러개의 saliency map을 average해서 smoothing 효과를 주는것. 이렇게 하면 오히려 주요하게 봐야하는 입력의 pixel은 더 강조가 되고 noise 같아 보이는 부분은 줄어들게 되었다고 말함
그럼 Noise 효과에 대해 생각해보자
단순하게 생각해보면 중요한 attribution을 가져야 하는부분이 계속 중요하게 나와서 그렇다고 생각할수있겠지만
다른 방면으로 생각해보면
이전에 integrated gradeint 연구에서 언급했던 axiom중에 sensitivity에서 non-zero attribution값을 가지더라도 gradient로는 특정지점에서 0이 될 수 있음을 이야기 하면서 integrated gradient를 제시하는 부분이 있었음.
본 논문에서 여러개 이미지에 perturbation주고 average하는게 그러한 문제를 해결해줄수도 있을 것 같다는 생각이 든당