<챗봇 ‘이루다’가 남긴 숙제> 개발사가 인공 | 커리어리

<챗봇 ‘이루다’가 남긴 숙제> 개발사가 인공지능(AI) 챗봇 ‘이루다’의 데이터베이스(DB)와 딥러닝 대화 모델 폐기를 결정하면서 이루다는 사실상 사망선고를 받게 됐습니다. 그러나 이루다로 인해 촉발된 AI 윤리 논의와 더불어 데이터 수집・활용 등 논란은 우리 사회가 풀어야 할 숙제로 남겨졌습니다. 앞서 스캐터랩은 지난달 23일 AI 챗봇 이루다를 출시했고 불과 2주 만에 약 80만명에 달하는 이용자를 모을 정도로 화제였으나, 성소수자・장애인 등 사회적 약자를 향한 혐오발언을 쏟아낸다는 지적이 나오면서 큰 비판을 받았습니다.  하지만 이루다가 사망 선고를 받게 된 결정적인 계기는 개발 과정에 있습니다. 스캐터랩이 자사 서비스인 ‘연애의 과학’과 ‘텍스트앳’ 등에서 수집한 카카오톡 대화를 개인정보 이용 및 활용에 대한 명확한 동의 없이 이루다 학습에 활용했다는 사실이 뒤늦게 알려진 것입니다. 사실 AI 윤리만큼이나 개인정보 이슈는 서비스를 제공하는 입장에서도, 사용자 입장에서도 굉장히 어렵고 민감한 영역같습니다. 이루다의 경우 이용자들이 느끼는 불안감은 이용목적에 대한 명확한 고지 없이, 내 개인정보가 어떻게 작동하는지 안내받지 못한 채 기대 외 목적으로 사용되었다는 것인데요. 서비스를 제공하는 입장에서 얼마나 상세하고 자세하게, 그러나 명확하게 사용자에게 그 내용을 고지할 수 있느냐는 굉장히 어려운 문제입니다. 개인정보와 관련된 내용이 너무 상세하거나 동의의 과정이 복잡하면 사용자 이탈로 이어질 수 있기 때문입니다. 반면, 사용자 입장에서는 역시 그런 고지를 받았을 때 무관심하거나 그것을 불편한 허들로 느끼지 않고 자세히 파악하고 의문을 가지는 마음가짐이 필요할텐데요. 무튼 이 둘 사이의 균형 속에서 한단계 성숙해나갈 챗봇을 기대해봅니다.

챗봇 '이루다', 데이터베이스는 폐기된다지만

(주)블로터앤미디어

2021년 1월 21일 오후 8:35

댓글 0

함께 보면 더 좋은

<비전공자들을 위한 디자인 상식- 디자인 툴과 이미지 편> 요즘 제가 졸업 프로젝트로 인해 일할 때 한번도 사용한 적이 없던 인디자인, 일러스트레이터, 프리미어프로, 피그마 등등을 사용하고 있는데요. 저 역시 비전공자이기 때문에 디자이너에게는 익숙하고 매일 접하는 용어들이 저에게 다소 생소하게 느껴지거나 혹은 설명해보라고 하면 딱히 알긴 아는데 설명이 어려운 그런 경험들을 했어요. 그래서 저같은 분이 계시다면 간단한 소개글인 이 글을 같이 읽어보면 좋을 것 같아 공유합니다.

비전공자들을 위한 디자인 상식 | 요즘IT

Wishket

추천 프로필

현직자에게 업계 주요 소식을 받아보세요.

현직자들의 '진짜 인사이트'가 담긴 업계 주요 소식을 받아보세요.

커리어리 | 일잘러들의 커리어 SNS