◼︎ AI 윤리 웨비나, 그리고 이루다. 최근 이루다 사건으로 AI 윤리에 대한 관심이 커졌죠. 네이버 AI 윤리 준칙을 포함한 공동웨비나가 열린다고 하네요. 관심있는 분들은 신청해보셔도 좋겠습니다. 그리고, 아래에는 이루다 사건과 관련해서 개발 과정의 리스크나 사회적/인지적 쟁점에 대해 생각나는대로 나열해봤습니다. 이 사건은 단순한 성인지 감수성의 문제가 아니라 매우 복잡한 문제의 조합으로 발생한 것이죠. 각각을 구분해서 보지 않고 단순히 '남자 개발자가 문제'라는 식의 주장까지 대두되고 있는 같아 안타까운 마음에 정리해 봤으니 참고가 되셨으면 좋겠습니다. ---- ◼︎ 개발 과정에서의 리스크 [데이터 획득 과정] - 사용자 동의를 충분히/합리적으로/설득력있게 확보했는가 [데이터 전처리 과정] - 특정 개인을 추정할 수 있는 명시적인 정보는 물론, - 지명, 별명, 소속 등 조합으로 특정인을 추정할 수 있을만한 문제까지 충분히 제거했는가 - 전처리 후 과정에서 개인정보 이슈가 없는지 사후검증을 충분히 수행했는가 [개인정보 취급 과정] - 개발자가 개인정보를 취급하는 과정에서의 사고방지를 위한 충분한 대책을 마련했는가 (개인정보 취급 교육 등) [대화모델 개발과정] - 친근함을 위해 선택된 '20대 여대생'이라는 페르소나 특성상, 예견된(슬프게도) 공격에 대한 모니터링과 대응 노력은 충분했는가 - 사용자들의 공격적 대화가 대화모델에 직·간접적으로 영향을 끼칠 가능성은 미연에 방지되어 있는가 ◼︎ 사회적/인지적 쟁점 - AI 자체에 대한 폭언이나 성희롱은 인격에 대한 공격인가, 개인공간에서의 자유 문제인가 - AI에 대한 공격이 문제인가, 이걸 공유하고 사회적 문제로 확장하는 행위의 문제인가 - 사용자의 공격적 유도를 정확하게 인지하지 못한 채 이해한 척 답변하는 AI를 '노예화'된 것이라 볼 수 있는가 - AI 에 대한 폭언이나 성희롱을 모니터링하고 처리해야 할 개발자들의 정신 건강은 어떻게 보호할 것인가 - AI 에 대한 공격을 용인했을 때, 그 공격적 성향은 실제 사람을 향하게 되는 문제로 번질 가능성이 있는가

[SAPI-NAVER 공동웨비나] 인공지능 윤리: 원칙을 넘어 실천으로 현장에서 논하는 AI 윤리

Onoffmix

[SAPI-NAVER 공동웨비나] 인공지능 윤리: 원칙을 넘어 실천으로 현장에서 논하는 AI 윤리

다음 내용이 궁금하다면?

또는

이미 회원이신가요?

2021년 2월 13일 오전 11:51

댓글 0

    함께 읽은 게시물

    < 가장 예쁜 사람이 아니라, 1등 할 사람에게 투표하라 >

    1. 유명한 경제학자 케인스는 단기 투자 전략을 미인선발대회에 비유했다.

    ... 더 보기

    팀장 이상은 절대 금지, '이런것' 올리지 마세요!

    ... 더 보기

    팀장님들, 질문 하나 드려보겠습니다! 오늘은 몇 개의 질문을 들으셨나요? 아마 매일 매일 한 100개 쯤은 되지 않을까 생각이 드는데요ㅎㅎㅎㅎ

    ... 더 보기

    팀장상담소 21편 회사는 학교가 아닌데..! 팀원들이 스스로 해답을 찾지 않고 답만 묻네요 _ 팀장교육,팀장과정, 관리자교육

    네이버 블로그 | IGM세계경영연구원 블로그

    팀장상담소 21편 회사는 학교가 아닌데..! 팀원들이 스스로 해답을 찾지 않고 답만 묻네요 _ 팀장교육,팀장과정, 관리자교육

    < 잡초를 없애려면 잡초 말고 오히려 잔디를 깎아야 한다 >

    1. 자기 철학이 있는 사람들은 어떻게 그런 경지에 오르게 되는 것일까?

    ... 더 보기

    < 이직을 고민하는 당신이 던져야 할 단 3가지 질문 >

    1. 커리어를 선택하는 기준은 다양하다. 일단 내가 가진 가치관이 가장 큰 영향을 준다. 남들의 시선과 판단도 무시할 수 없다. 이직 트렌드와 경향도 살펴봐야 한다.

    ... 더 보기

     • 

    댓글 1 • 저장 6 • 조회 955


    < 왜 나는 그때 그 선배의 말을 듣지 않았을까? >​

    1. 모든 학습 곡선에는 같은 패턴이 있다. 어떤 분야의 초보자가 있다고 하자. 이제 몇 가지 지식을 배운다. 그럼 마치 그 분야를 완전히 이해한 것처럼 느낀다. 누구나 0점에서 80점까지는 쉽다. 문제는 80점부터다. 전문가의 영역이다.

    ... 더 보기