뉴욕타임즈의 기획 기사입니다. 예측 알고리즘(Predictive Algorithm)을 사용해 (이미 한번 범법행위를 저지른 사람을 대상으로) 범죄를 일으킬 사람들을 예측하고 보호관찰하는 것이 합당한지 들여다봤어요. 생각할 거리가 많은, 엄청난 취재기사였어요. 예측 알고리즘은 과거 데이터를 이용해 미래의 일이 일어날 가능성(probability)을 계산합니다. 범죄를 저지른 사람의 정보를 수집하고 다른 범죄자를 묘사하는 통계(나이, 성별, 범죄 경력 등)와 이를 비교하는 방식으로 사용돼요. 선거 결과를 예측하는 여론조사 방법과 비슷하다고 합니다. 미국 필라델피아에서 ‘높은 위험성(High risk)’ 판정을 받은 범법자를 보호관찰하는 데에 사용되고요. 네덜란드에서는 복지 정책을 오남용해 돈을 받는 ‘복지 사기’행위자를 미리 표시(flag)합니다. 영국에서는 알고리즘을 활용해 10대 청소년 중 범법자가 될 우려가 높은 청소년을 가려내기도 하네요.(각 스토리가 기사에 소개돼 있어요) 이는 이미 일상적인 법적 조치, 실무에도 영향을 끼치고 있어요. 필라델피아 보호관찰소 담당자가 말하기를,‘높은 위험성’ 판정을 받은 사람들은 재판 일정을 받는 동안 계속 유치장에 감금되어 있어야 한다고 합니다. 논쟁점은 알고리즘의 투명성과 편견(bias)입니다. 알고리즘을 활용하는 데 긍정적인 사람들은 ‘사람의 편견을 줄일 수 있다. 투명하지 않은 건 사람의 결정도 마찬가지다. 게다가 알고리즘을 적용하면 비용을 절감할 수 있다’고 주장합니다. 부정적인 사람들은 ‘인권을 침해한다. 어떻게 작동하는지도 모르는 컴퓨터가 사람의 운명을 결정하는 것이 맞는가’라고 말해요. 필라델피아에서 실제로 ‘높은 위험성’ 판정을 받은 사람은 “컴퓨터에게는 내 상황을 이야기할 수 없지만 지금 나를 인터뷰하는 당신과는 소통하고 표현을 할 수 있지 않나”라고 이야기했습니다. 선거 결과를 예측하거나 비행기 항로를 결정하고 오토파일럿을 가동하는 것이 사회가 돌아가는 것, 인간이 상호작용하는 것과 똑같을까요? 알고리즘은 인간의 자유를 확장할까요, 축소할까요?

An Algorithm That Grants Freedom, or Takes It Away

Nytimes

An Algorithm That Grants Freedom, or Takes It Away

다음 내용이 궁금하다면?

또는

이미 회원이신가요?

2020년 2월 7일 오전 4:08

댓글 0

    함께 읽은 게시물



    올해로 개발자 생활이 햇수로 20년째다

    2005년 7월에 일을 시작했으니, 올해로 개발자 생활이 햇수로 20년째다. 중간에 공백이 조금씩 있었으니 꽉 채운 스무 해는 아니지만, 숫자가 주는 무게는 여전하다. 20년이라는 시간이 흘렀다는 사실이 새삼 신기하게 느껴진다.

    ... 더 보기

    Next.js 앱을 쿠버네티스에 배포하기 (feat. ArgoCD)

    ... 더 보기

    Next.js 앱을 쿠버네티스에 배포하기 (feat. ArgoCD) | 요즘IT

    요즘IT

    Next.js 앱을 쿠버네티스에 배포하기 (feat. ArgoCD) | 요즘IT

    퍼스널 브랜딩의 불편한 진실

    회사에서 개인의 브랜드를 만든다는 것은 누군가를 불편하게 하는 행위이다.
    이게 무슨 말일까?

    ... 더 보기

    회피를 해야 할까요? 방안을 찾아야 할까요?

    팀이나, 파트등의 조직에서의 생활을 하다 보면은 나의 의사와 다른 상황이 펼쳐지는 일이 꽤 많은 빈도로 발생이 되는거 같아요. 짧다면 짧고, 길다면 긴 조직 생황을 하였지만 가장 어려운 것이 나의 의사와 다른 생각을 가지는 일들이 생기는 것들 같아요.

    ... 더 보기