장혜림 (메이)

테크 비즈 라이터

팔로우

뉴욕타임즈의 기획 기사입니다. 예측 알고리즘(Predictive Algorithm)을 사용해 (이미 한번 범법행위를 저지른 사람을 대상으로) 범죄를 일으킬 사람들을 예측하고 보호관찰하는 것이 합당한지 들여다봤어요. 생각할 거리가 많은, 엄청난 취재기사였어요. 예측 알고리즘은 과거 데이터를 이용해 미래의 일이 일어날 가능성(probability)을 계산합니다. 범죄를 저지른 사람의 정보를 수집하고 다른 범죄자를 묘사하는 통계(나이, 성별, 범죄 경력 등)와 이를 비교하는 방식으로 사용돼요. 선거 결과를 예측하는 여론조사 방법과 비슷하다고 합니다. 미국 필라델피아에서 ‘높은 위험성(High risk)’ 판정을 받은 범법자를 보호관찰하는 데에 사용되고요. 네덜란드에서는 복지 정책을 오남용해 돈을 받는 ‘복지 사기’행위자를 미리 표시(flag)합니다. 영국에서는 알고리즘을 활용해 10대 청소년 중 범법자가 될 우려가 높은 청소년을 가려내기도 하네요.(각 스토리가 기사에 소개돼 있어요) 이는 이미 일상적인 법적 조치, 실무에도 영향을 끼치고 있어요. 필라델피아 보호관찰소 담당자가 말하기를,‘높은 위험성’ 판정을 받은 사람들은 재판 일정을 받는 동안 계속 유치장에 감금되어 있어야 한다고 합니다. 논쟁점은 알고리즘의 투명성과 편견(bias)입니다. 알고리즘을 활용하는 데 긍정적인 사람들은 ‘사람의 편견을 줄일 수 있다. 투명하지 않은 건 사람의 결정도 마찬가지다. 게다가 알고리즘을 적용하면 비용을 절감할 수 있다’고 주장합니다. 부정적인 사람들은 ‘인권을 침해한다. 어떻게 작동하는지도 모르는 컴퓨터가 사람의 운명을 결정하는 것이 맞는가’라고 말해요. 필라델피아에서 실제로 ‘높은 위험성’ 판정을 받은 사람은 “컴퓨터에게는 내 상황을 이야기할 수 없지만 지금 나를 인터뷰하는 당신과는 소통하고 표현을 할 수 있지 않나”라고 이야기했습니다. 선거 결과를 예측하거나 비행기 항로를 결정하고 오토파일럿을 가동하는 것이 사회가 돌아가는 것, 인간이 상호작용하는 것과 똑같을까요? 알고리즘은 인간의 자유를 확장할까요, 축소할까요?

An Algorithm That Grants Freedom, or Takes It Away

Nytimes