장혜림 (메이)

테크 비즈 라이터

팔로우

MIT, 하버드, 구글, 마이크로소프트 소속 1,000명 이상의 AI 전문가들이 움직였어요. 국제 과학, 기술 논문을 출판하는 조직 Springer가 '얼굴 인식 기반의 범죄 예측 알고리즘' 연구 결과 논문을 출판하겠다고 발표해서, 이걸 막기 위해서요. 해당 논문은 얼굴 사진만으로 그 사람이 범죄를 저지를지 예측하는 시스템을 개발, 테스트 했고 80%의 정확도를 보였으며 인종차별은 전혀 없다는 내용을 포함하고 있었습니다. 그러나 AI 전문가들은, 유구한 미국 역사 속에서 형성된 기존 사법 시스템과 사회 구조에 이미 존재하는 인종차별이 알고리즘에 어떻게 내포되지 않을 수 있냐며, 논문을 퍼블리시하는 것 자체가 얼굴색으로 타인을 혐오하는 경향을 심화하는 것이라고 목소리를 높였습니다. 기사를 꼭 읽어보시면 좋겠어요.  공개성명서에는 크게 세 가지 내용이 실렸습니다. 해당 논문의 연구조사 방법에 대한 비난, 스프링어 네이처에 해당 논문 발행 중지, 향후 비슷한 연구 결과 논문 발행 금지였어요.

Biased AI perpetuates racial injustice

TechCrunch