[ 🎲 What-if - DICE ] 대출을 받는다고 생각해보자. 데이터 분석을 했는데 거절해야 한다는 결과가 나왔을 때, 이걸 어떻게 고객에게 설명해야 하며, 고객이 무엇을 해야 대출을 받을 수 있을까? 이런 설명력은 금융에서 특히 필수적임. DICE(Diverse Counterfactual Explanations)는 머신러닝 모델이 다른 결과를 도출할만한 다양한 what-if 시나리오를 만들어낸다. SHAP, LIME과 같이 머신러닝 및 AI에 설명력을 부여할 수 있는 도구들이 있는데 DICE도 그 중 하나. ‘만약 이 사람이 연봉이 2천 더 높았으면 대출을 받을 수 있었을 거야’ ‘만약 이 사람이 이미 받은 대출이 없었다면 이번에 받을 수 있었을 거야’ 이런 what-if에 해당하는 feature를 뽑아낼 수 있다면 모델의 bias를 파악할 수 있으며, 모델을 활용하는 사람들에게는 ‘액션 플랜’을 제공해줄 수 있다. 물론 ‘나이가 더 많았다면 대출을 받을 수 있었을 거야’ 처럼 바꿀 수 없는 변수들이 있을 것이다. 나이, 성별, 규제 등이 해당되며, 이런 변수들에 대한 제약도 추가할 수 있다.