아마존, 사내 메신저에 '노조' 등 금지어 추진..."노조 결성 움직임 빠르게 번져"
Sbs
《메신저의 금지어 설정 기능이라... 결말이 예상되는》 메신저에 금지어 설정을 요구받는 경우가 있습니다. 하지만 사용자가 지금까지 잘 극복(?)한 것처럼 다른 표현을 찾아내서 전송할 것입니다. 그래서 금칙어 초기 설정 후 이용자들은 금칙어를 변형하여 활용할 것입니다. 사측은 이를 확인 후 추가 금칙어 설정 대응으로 반복될 것으로 예측합니다. 그리고 금칙어를 설정하는 것은 끝나지 않는 밀땅이 발생할 것입니다. 그리고 메신저 발송 후가 아니라 사전 차단을 희망하는 경우 메신저의 실시간 처리에 일정 부분 영향을 줍니다. 그래서 금칙어와 변형어의 끝나지 않는 싸움이 지속된다면 메신저의 속도감이 사라질 것입니다. 금칙어가 있다는 사실을 사용자가 알 경우에 대한 사이드 이펙트도 우려가 됩니다. 사전 차단이든 사후 통보 방식이든 검열이 된다는 사실은 커뮤니케이션 위축을 유발합니다. 금칙어가 단순하게 노조 조성을 막는 용도가 아니라 업무 생산성에 악영향을 줄 수도 있는 것이죠. 회사에서 고객 정보를 다루는 부서가 잘못된 고객 데이터 활용이 방지하기 위한 개인 정보, 민감 정보 탐지 정도까지만 활용하고 이를 확대 해석하여 커스텀 문구를 적용하는 것은 다시 한번 고민해 보는 게 어떨까 싶습니다. 🤔
2022년 4월 16일 오후 1:13
댓글 0
함께 보면 더 좋은
《AI 기술 발전도 중요하지만 윤리와 함께 가야 함》 기술로 사람의 감정을 판단하는 기술 판매에 대한 중단이 이어지고 있습니다. 기술이 많은 것을 편리하게 만들어주지만 반대로 공포를 유발 할 수 있고, 정의되지 못한 부분이나 편향적 판단이 학습된 결과로 인해서 갈등을 조장할 수 있습니다. 기술의 발전도 좋지만 윤리에 맞춰서 함께 가야하지 않을까 싶습니다. 1️⃣ 정확하게 언제부터 뭐가 안된다는 건가요? 성별, 나이, 미소, 수염, 메이크업 등 감정 상태와 속성을 유추하게 설계된 얼굴 분석 기능을 제거 ❌ 흐림 처리, 노출, 안경, 머리 자세, 랜드마크, 노이즈, 폐색 및 얼굴 경계 감지 같은 기능은 유지 ⭕ 2022년 6월 21일 부터 신규 이용자에게 제한 2023년 6월 30일 부터 기존 사용자도 사용 불가 (활용하는 애플리케이션의 심사를 통과해야만 사용 가능) 2️⃣ 왜 때문일까? 대상자의 감정 상태, 성별, 나이, 기분, 개인적 속성 등을 추론하는 해당 툴은 2년 전 한 연구에서 편향성과 부정확성을 보이기도 했다. AI 프로그램의 오류 발생률이 피부색이 어두운 피실험자들에게서 더 높게 나타난 것이다. 3️⃣ 필요한 분야는 없을까? MS는 장애를 가진 사용자를 위해 제공되는 서비스에 한해서는 '성별, 나이, 미소, 수염, 메이크업' 등의 감성 상태와 속성 유추의 기능을 계속 활용할 수 있음. ➕ 함께 읽으면 좋은 기사 🔗궁지몰린 페이스북 "얼굴인식 시스템 폐지…스캔 데이터도 삭제" https://www.yna.co.kr/view/AKR20211103006100091 🔗미 클리어뷰 AI사, 민간기업에 안면인식 서비스 판매 중단키로 http://www.aitimes.com/news/articleView.html?idxno=144494
추천 프로필
현직자에게 업계 주요 소식을 받아보세요.
현직자들의 '진짜 인사이트'가 담긴 업계 주요 소식을 받아보세요.
커리어리 | 일잘러들의 커리어 SNS