<챗봇 ‘이루다’가 남긴 숙제> 개발사가 인공지능(AI) 챗봇 ‘이루다’의 데이터베이스(DB)와 딥러닝 대화 모델 폐기를 결정하면서 이루다는 사실상 사망선고를 받게 됐습니다. 그러나 이루다로 인해 촉발된 AI 윤리 논의와 더불어 데이터 수집・활용 등 논란은 우리 사회가 풀어야 할 숙제로 남겨졌습니다. 앞서 스캐터랩은 지난달 23일 AI 챗봇 이루다를 출시했고 불과 2주 만에 약 80만명에 달하는 이용자를 모을 정도로 화제였으나, 성소수자・장애인 등 사회적 약자를 향한 혐오발언을 쏟아낸다는 지적이 나오면서 큰 비판을 받았습니다.  하지만 이루다가 사망 선고를 받게 된 결정적인 계기는 개발 과정에 있습니다. 스캐터랩이 자사 서비스인 ‘연애의 과학’과 ‘텍스트앳’ 등에서 수집한 카카오톡 대화를 개인정보 이용 및 활용에 대한 명확한 동의 없이 이루다 학습에 활용했다는 사실이 뒤늦게 알려진 것입니다. 사실 AI 윤리만큼이나 개인정보 이슈는 서비스를 제공하는 입장에서도, 사용자 입장에서도 굉장히 어렵고 민감한 영역같습니다. 이루다의 경우 이용자들이 느끼는 불안감은 이용목적에 대한 명확한 고지 없이, 내 개인정보가 어떻게 작동하는지 안내받지 못한 채 기대 외 목적으로 사용되었다는 것인데요. 서비스를 제공하는 입장에서 얼마나 상세하고 자세하게, 그러나 명확하게 사용자에게 그 내용을 고지할 수 있느냐는 굉장히 어려운 문제입니다. 개인정보와 관련된 내용이 너무 상세하거나 동의의 과정이 복잡하면 사용자 이탈로 이어질 수 있기 때문입니다. 반면, 사용자 입장에서는 역시 그런 고지를 받았을 때 무관심하거나 그것을 불편한 허들로 느끼지 않고 자세히 파악하고 의문을 가지는 마음가짐이 필요할텐데요. 무튼 이 둘 사이의 균형 속에서 한단계 성숙해나갈 챗봇을 기대해봅니다.

챗봇 '이루다', 데이터베이스는 폐기된다지만

블로터

챗봇 '이루다', 데이터베이스는 폐기된다지만

다음 내용이 궁금하다면?

또는

이미 회원이신가요?

2021년 1월 21일 오후 8:35

댓글 0

    함께 읽은 게시물

    업계는 오픈AI와 퍼플렉시티의 웹브라우저가 크롬의 아성을 무너뜨릴 수 있을지 주목한다. 시장조사업체 스탯카운터에 따르면 전 세계 웹브라우저 시장 점유율은 크롬이 68%로 압도적 1위다. 애플 사파리가 16%로 뒤를 이었고, 마이크로소프트 엣지 5%, 파이어폭스와 삼성인터넷은 2% 수준에 그쳤다. 크롬의 높은 검색 점유율은 구글의 광고 매출로 이어진다. 크롬은 사용자의 검색 기록을 바탕으로 광고를 타겟팅하고, 이를 통해 높은 수익을 올리고 있다.

    ... 더 보기

    ‘크롬 천하’ 웹브라우저 시장 도전하는 AI기업들

    국민일보

    ‘크롬 천하’ 웹브라우저 시장 도전하는 AI기업들

    < 저는 책을 끝까지 읽지 않습니다 >

    1

    ... 더 보기

    ‪요 기능의 일부를 바이브 코딩으로 만들려다가 실패했는데요. 그 중에 하나로 타임존 문제가 있었습니다.‬

    ... 더 보기
    profile picture

    골빈해커

    Chief Maker

    내가 좋아하는 아미고가 예약된 시간에 전화를 걸어줍니다. 아직 베타라 불완전한 면이 많습니다. 많은 피드백 부탁드립니다. 🙏🙇🏻 앱 다운로드: https://ameego.club 첨부 영상은 지난 달 초에 찍어 둔 영상인데 출시가 이로저로 늦어졌네요. 🥲 계획되어있는 다음 업데이트들도 후딱 해 보겠습니다. 무엇보다 아미고의 성장에는 여러분의 많은 관심(리뷰와 결제🫣🤭)이 필수..☺️ 그럼 많은 도움 부탁드리겠습니다. 감사합니다! 🙇🏻‍♀️🙇🏻


    < 당신의 커리어를 바꿀 단 두 가지 능력 >

    1. 레버리지와 도구는 과정과 결과 사이의 단절을 만들어냅니다.

    ... 더 보기