두 번째 타자는... ❝AI 논문 오직 3줄 요약 - Grad-CAM❞ ✓ 논문: Grad-CAM: Visual Explanations from Deep Networks via Gradient-

두 번째 타자는... ❝AI 논문 오직 3줄 요약 - Grad-CAM❞ ✓ 논문: Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization, 2016년, 9,826회 인용, https://arxiv.org/abs/1610.02391 ✓ 분류: 컴퓨터 비전 공통, 설명 가능성 ✓ 3줄 요약 👩: 입력 이미지를 특정 레이블(개 또는 고양이?)로 분류하는데 어느 영역의 픽셀이 얼마나 영향을 줬을까? 🧑: 예림이, 마지막 컨볼루션 레이어의 피쳐 맵 활성화 값 봐봐. 1) 특정 레이블 여부에 따라 활성화 값이 크게 바뀌는 채널에서 2) 활성화 값이 큰 영역일수록 영향을 많이 준 셈이야. 👉 구현: https://keras.io/examples/vision/grad_cam (Keras 예제) Chollet의 Keras 책에서 아프리카 코끼리 사례로 소개되어 유명한 Grad-CAM. CNN에 대한 시각적 설명을 얘기할 때 가장 먼저 떠올리는 알고리즘이지만 픽셀 속성 기법은 낮은 신뢰도와 데이터와 모델에 대한 둔감한 성질로 꽤나 비판받고 있는 상황이다.