DiCE: Counterfactual Explanations offer clarity in AI decision-making
Microsoft 365 Blog
[ ๐ฒ What-if - DICE ] ๋์ถ์ ๋ฐ๋๋ค๊ณ ์๊ฐํด๋ณด์. ๋ฐ์ดํฐ ๋ถ์์ ํ๋๋ฐ ๊ฑฐ์ ํด์ผ ํ๋ค๋ ๊ฒฐ๊ณผ๊ฐ ๋์์ ๋, ์ด๊ฑธ ์ด๋ป๊ฒ ๊ณ ๊ฐ์๊ฒ ์ค๋ช ํด์ผ ํ๋ฉฐ, ๊ณ ๊ฐ์ด ๋ฌด์์ ํด์ผ ๋์ถ์ ๋ฐ์ ์ ์์๊น? ์ด๋ฐ ์ค๋ช ๋ ฅ์ ๊ธ์ต์์ ํนํ ํ์์ ์. DICE(Diverse Counterfactual Explanations)๋ ๋จธ์ ๋ฌ๋ ๋ชจ๋ธ์ด ๋ค๋ฅธ ๊ฒฐ๊ณผ๋ฅผ ๋์ถํ ๋งํ ๋ค์ํ what-if ์๋๋ฆฌ์ค๋ฅผ ๋ง๋ค์ด๋ธ๋ค. SHAP, LIME๊ณผ ๊ฐ์ด ๋จธ์ ๋ฌ๋ ๋ฐ AI์ ์ค๋ช ๋ ฅ์ ๋ถ์ฌํ ์ ์๋ ๋๊ตฌ๋ค์ด ์๋๋ฐ DICE๋ ๊ทธ ์ค ํ๋. โ๋ง์ฝ ์ด ์ฌ๋์ด ์ฐ๋ด์ด 2์ฒ ๋ ๋์์ผ๋ฉด ๋์ถ์ ๋ฐ์ ์ ์์์ ๊ฑฐ์ผโ โ๋ง์ฝ ์ด ์ฌ๋์ด ์ด๋ฏธ ๋ฐ์ ๋์ถ์ด ์์๋ค๋ฉด ์ด๋ฒ์ ๋ฐ์ ์ ์์์ ๊ฑฐ์ผโ ์ด๋ฐ what-if์ ํด๋นํ๋ feature๋ฅผ ๋ฝ์๋ผ ์ ์๋ค๋ฉด ๋ชจ๋ธ์ bias๋ฅผ ํ์ ํ ์ ์์ผ๋ฉฐ, ๋ชจ๋ธ์ ํ์ฉํ๋ ์ฌ๋๋ค์๊ฒ๋ โ์ก์ ํ๋โ์ ์ ๊ณตํด์ค ์ ์๋ค. ๋ฌผ๋ก โ๋์ด๊ฐ ๋ ๋ง์๋ค๋ฉด ๋์ถ์ ๋ฐ์ ์ ์์์ ๊ฑฐ์ผโ ์ฒ๋ผ ๋ฐ๊ฟ ์ ์๋ ๋ณ์๋ค์ด ์์ ๊ฒ์ด๋ค. ๋์ด, ์ฑ๋ณ, ๊ท์ ๋ฑ์ด ํด๋น๋๋ฉฐ, ์ด๋ฐ ๋ณ์๋ค์ ๋ํ ์ ์ฝ๋ ์ถ๊ฐํ ์ ์๋ค.
2021๋ 12์ 30์ผ ์คํ 1:17