생각보다 많이 심각한거 같네요. ✔️ 이용자가 | 커리어리

유수형

생각보다 많이 심각한거 같네요. ✔️ 이용자가 일부러 성희롱을...! 일부 유저들이 이루다를 성적 대상으로 취급하고 있습니다. 직접적인 단어를 피해서 우회적으로 성적 대화를 나누는 방법으로 개발사의 예방책을 피해갔는데요. 일부 커뮤니티에서는 유저들끼리 이런 대화를 인증하며 서로 방법을 알려주고 있다고 합니다. 이에 개발사인 스캐터랩은 “성희롱을 예상했고, 욕설과 성희롱은 성별과 무관하게 일어나는 일이다. 앞으로 이런 대화를 학습시키겠다”고 말했습니다. ✔️ 혐오와 차별을 학습하는 인공지능 이러한 유저들의 대화를 학습하며 인공지능 이루다는 장애인·동성애·여성 혐오 발언을 하고 있습니다. 지하철 임산부석이 싫다거나, 여성 인권이 중요하지 않다는 등의 말을 하고 있습니다.😭 💡2016년 마이크로소프트가 내놓은 인공지능 챗봇 '테이'도 유저들의 테러에 빠르게 '흑화'되어 서비스 16시간만에 중단한 사례가 있습니다. 기술이 가치 중립적인 과학의 진보라지만 이를 사용하는 유저와의 인터렉션에 따라 매우 안좋은 결말로 치달을 수밖에 없다는게 너무도 슬픕니다. 개발사도 이를 예측하고 여러 방지책 (금지어 등)을 마련하고 출시했지만 우리 사람은 기계보다 더 똑똑(?)하니깐요. 완전히 '기술'로만 막기에는 한계가 있어 보입니다. 오히려 이 부분에서야 말로 사람만이 할 수 있는 soft touch가 넛지로 작용할 수 있지 않을까, 막연하게 기대해봅니다.

동성애·장애인 혐오하는 'AI 이루다'...전문가들 ″개발단계부터 보정해야″

매일방송

2021년 1월 11일 오전 2:27

댓글 0

함께 보면 더 좋은

💡 직접 사용해 볼 수 있는 Web3 서비스 소개 오랜만입니다. 오늘은 DeFi, NFT 다음으로 화제가 되고 있는 Web3에 대해 이야기 해보려 합니다. Web3 하면, 일단 P2E 게임이나 Sandbox, Decentraland 등이 쉽게 떠오를 것 같은데요. 그 중에서도 Web2와 비교될만한 그리고 쉽게 사용해볼 수 있는 서비스를 가져와봤습니다. 1. ENS: Ethereum Name Service - 인터넷 IP 주소가 영문 도메인으로 바뀐것처럼 길고 긴 이더리움 지갑 주소를 영문단어로 바꿔줍니다. - 제 주소는 suhyung.eth 입니다 :) *ENS 가격은 굉장히 저렴한데 이더리움 가스피가 더 많이 듭니다. 가스피가 40~50gwei 부근일때 후다닥 등록하세요! 2. mirror.xyz - 미디엄을 대체하는 Web3 블로그 서비스 - 글 쓰면 토큰을 주던 스팀잇에서 나아가 스스로 크라우드 펀딩을 시작할수도 NFT 모금을 할수도 있습니다. - https://mirror.xyz/suhyung.eth 테스트로 시작해봤어요. 3. gm.xyz - Web3 sns들이 하나 둘 나오는 가운데 Messari 리포트에서 발견한 새로운 서비스 gm.xyz - 누가 아나요 dydx나 ens처럼 미리 가입해서 활동하다 보면 airdrop도 해줄지 😉 - https://gm.xyz/u/suhyung.eth 팔로팔로미 4. CyberConnect - Web3 소셜그래프 or 3D 주소록 같은 솔루션 - 저와 연결되고픈 분은 https://app.cyberconnect.me/address/suhyung.eth 💬 위의 서비스들은 서로가 다 연결되어 있습니다. - 서비스소개 글은 Mirror에 개재되어 링크되고 https://mirror.xyz/.../j4u2JeUYaRJfHfWENGWqmBiKAJlMaZDoZb... - 나의 CyberConnect에 가보면 내가 쓴 Mirror 글이 연동되어 보입니다. https://app.cyberconnect.me/address/suhyung.eth 들어가보시면 아래에 Mirror 글이 자동으로 뜨죠? - FB 로그인 기능인데 FB만 그 기록을 보는게 아니라 나 그리고 네트워크에 참여하는 모든 사람에게 그 데이터 엑세스 권한이 있다고 생각하면 될 것 같습니다 :)

suhyung.eth

gm.xyz

추천 프로필

현직자에게 업계 주요 소식을 받아보세요.

현직자들의 '진짜 인사이트'가 담긴 업계 주요 소식을 받아보세요.

커리어리 | 일잘러들의 커리어 SNS