생각보다 많이 심각한거 같네요. ✔️ 이용자가 일부러 성희롱을...! 일부 유저들이 이루다를 성적 대상으로 취급하고 있습니다. 직접적인 단어를 피해서 우회적으로 성적 대화를 나누는 방법으로 개발사의 예방책을 피해갔는데요. 일부 커뮤니티에서는 유저들끼리 이런 대화를 인증하며 서로 방법을 알려주고 있다고 합니다. 이에 개발사인 스캐터랩은 “성희롱을 예상했고, 욕설과 성희롱은 성별과 무관하게 일어나는 일이다. 앞으로 이런 대화를 학습시키겠다”고 말했습니다. ✔️ 혐오와 차별을 학습하는 인공지능 이러한 유저들의 대화를 학습하며 인공지능 이루다는 장애인·동성애·여성 혐오 발언을 하고 있습니다. 지하철 임산부석이 싫다거나, 여성 인권이 중요하지 않다는 등의 말을 하고 있습니다.😭 💡2016년 마이크로소프트가 내놓은 인공지능 챗봇 '테이'도 유저들의 테러에 빠르게 '흑화'되어 서비스 16시간만에 중단한 사례가 있습니다. 기술이 가치 중립적인 과학의 진보라지만 이를 사용하는 유저와의 인터렉션에 따라 매우 안좋은 결말로 치달을 수밖에 없다는게 너무도 슬픕니다. 개발사도 이를 예측하고 여러 방지책 (금지어 등)을 마련하고 출시했지만 우리 사람은 기계보다 더 똑똑(?)하니깐요. 완전히 '기술'로만 막기에는 한계가 있어 보입니다. 오히려 이 부분에서야 말로 사람만이 할 수 있는 soft touch가 넛지로 작용할 수 있지 않을까, 막연하게 기대해봅니다.