<설명 가능한 AI, 들어보셨나요?> 인공지능은 매우 복잡해서 전문가조차 이해하기 어렵다는 이른바 ‘블랙박스(black box)’의 문제를 안고 있습니다. 왜냐하면 인공지능 기술이 발전할수록 수많은 매개변수를 갖는 복잡한 모델이 자동으로 학습돼 어떤 판단이 왜 그렇게 내려졌는지 모르는 경우가 많아졌기 때문입니다. 그래서 많은 인공지능 관련 연구자 및 정책 입안자들은 인공지능의 ‘블랙박스 딜레마’를 해소하기 위해 딥러닝의 결론이나 계산 과정을 설명 가능(explainable) 혹은 해석 가능(interpretable) 하도록 만드는 연구를 진행해 왔는데, 그중 하나가 바로 ‘XAI(eXplainable Artificial Intelligence, 설명 가능한 인공지능)’입니다. 설명가능한 인공지능에 대해 궁금하시다면 읽어보시면 좋을 글입니다. 저 역시 사용자가 자신에 대해 내린 알고리즘 결정에 대한 설명을 요청할 수 있는 권리를 가져야 한다는데 동의합니다. 이는 "알고리즘의 설명 가능성이 감사 가능성, 공정성, 신뢰성을 감지, 활성화 및 개선하는 데 핵심적인 역할을하기 때문입니다"(Lu et al, 2019). 물론 이 글에 나온 바와 같이 알고리즘은 복잡성으로 인해 이를 만든 사람조차도 완전히 설명하기 어려울 수 있습니다. 그러나 알고리즘이 많은 복잡한 “블랙 박스” 모델에 의해 생성된다는 사실이 투명성과 설명 부족에 대한 변명이되어서는 안된다고 생각합니다. 알고리즘이 설명 가능하고 편향되지 않은 방향으로 발전하려면 알고리즘에 대한 지속적이고 비판적인 평가가 필요하다고 생각됩니다.

신문과방송 : 네이버 블로그

blog.naver.com

신문과방송 : 네이버 블로그

다음 내용이 궁금하다면?

또는

이미 회원이신가요?

2020년 12월 26일 오후 1:02

댓글 0

    함께 읽은 게시물

    PM이 이해하면 좋은 지표 개념

    프로덕트 매니저(PM)로 일하면서 늘 지표 이야기를 듣게 됩니다. 대부분 PM은 선행지표(leading indicator)와 후행지표(lagging indicator)의 개념을 잘 이해하고 있습니다. 하지만 선행지표에 영향을 미치는 '인풋(input) 지표, '아웃풋(o

    ... 더 보기

     • 

    댓글 1 • 저장 34 • 조회 1,369


    ✍️ 오늘은 PM이 읽어볼만한 책을 한 권 소개해드릴까 해요. 스스로의 동기부여가 어려운 분들이나, 동료를 설득해야되는 PM이나, 조직에 자발적 활력을 만들어내고 싶은 조직장 모두가 읽어볼만한 책입니다. — 📖 <스타트 위드 와이: 나는 왜 이 일을 하는가> 🔖 이성적 범주에 속하는 WHAT은 WHY에서 느껴지는 감정을 겉으로 보여주는 근거 역할을 한다. 어떤 직감으로 결정을 내렸는지 말로 표현할 수 있고 자신의 WHY를 명확히 설명할 수 있으면 주변 사람들에게 결정을 내린 이유를 분명히 이해시킬 수 있다. 이 결정이 객관적인 사실이나 수치와 일관성을 이룬다면 근거은 더욱 타당해진다. 이것이 바로 균형이다. (129p) — PM으로 일하면서 가장 어려운 일이 무엇이냐고 물어보면, 대부분 why를 조직장이나 동료들에게 설득하는 과정을 원탑으로 꼽을 겁니다. 문제를 정확히 정의하고, 논리를 만드는 것도 어렵고, 그것을 말이나 글로 표현해 내는 것도 어렵죠. 그래서 프로젝트 문서에 정량적인 데이터 분석을 수반하고, 숫자를 통해 프로젝트의 공감대를 형성하려고 시도할 때가 생깁니다. 하지만 Why에 대해 본인이 충... 더 보기

    👋 LLM 활용에 도움이 되는 가이드 모음

    ✅️Prompting Guide 101 by Google : https://lnkd.in/d8UwPWeN

    ... 더 보기

     • 

    저장 12 • 조회 948


    Value Propositions, 가치 제안

    특정한 고객 세그먼트가 필요로하는가치를 창조하기 위한 상품이나 서비스의 조합이 바로 '밸류 프로포지션'이다.

    ... 더 보기

    ‘똑부(똑똑하고 부지런하기)보다 똑게(똑똑하지만 게으른) 리더가 되라.’ 리더십 코칭에서 빠지지 않는 훈수다. 현장 리더들의 말을 들어보면 실행이 쉽지 않다.

    ... 더 보기

    [김성회의 고사성어 리더십] `똑게 리더십` 3가지 법칙 - 매일경제

    매일경제

    [김성회의 고사성어 리더십] `똑게 리더십` 3가지 법칙 - 매일경제

     • 

    저장 4 • 조회 747