우디

Product Owner & Senior Product Designer

팔로우

[💡TED: 빅 데이터에 대한 맹신의 시기는 끝나야만 합니다] 작년 넷플릭스를 뜨겁게 달구었던 "소셜 딜레마" 출연진 "캐시 오닐(Cathy O'Neil)"의 테드 강연을 소개합니다. 수학자이자 데이터 과학자인 그녀는 빅데이터가 불평등을 증가시키고 민주주의에 위협을 주는 측면을 비판하는 것으로 유명합니다. 아래는 강연 중 흥미로웠던 부분들입니다. • “우리 모두는 코드를 사용하지만 그저 이걸 코드로 형식화하지 않았을 뿐이다." • 캐시는 강연 중 가족을 위한 식사 준비를 알고리즘에 비유합니다. 그리고 자신이 가용할 수 있는 재료, 준비 시간, 만들고 싶은 요리 등을 코드에 비유합니다. 여기서 재미있는 비유를 드는데 캐시가 이를 통해 이루고자 하는 알고리즘적 성공은 "아이들에게 채소가 섞인 균형 잡힌 식사를 먹인다"인데 만약 자신의 막내아들이 차린다면 "누텔라가 듬뿍 발린 식사"가 될 것이라고 말합니다. 즉 같은 재료가 있더라도 성공의 정의에 따라 양상은 확연히 달라질 것이라는 거죠. 여기서 캐시는 알고리즘에 대한 자신의 첫 번째 생각에 관해 이야기합니다. • “알고리즘이란 코드에 담긴 일종의 의견에 가깝다." • 우리는 알고리즘이 객관적이며 과학적이라고 생각하지만, 우리가 숫자를 신뢰하는 심리를 현대 마케팅에서는 공포를 동반한 방식으로 활용하는 것을 비판합니다. • 미국의 비영리 인터넷 언론인 프로퍼블리카{ProPublica}는 범죄자의 재범 위험성 평가와 관련 있는 알고리즘을 살펴봅니다. 이 알고리즘은 현재 플로리다주에서 판사가 형을 선고할 때 사용되고 있습니다. • 내용에는 흑인과 백인 두 사람이 등장하는데 같은 불법 약물 소지 혐의로 재판 중이었습니다. 하지만 피부색만으로 흑인인 버나드는 10/10으로 고위험군, 백인 딜런은 3/10을 받아 저위험군으로 분류되었습니다. 그런데 알고 보니 딜런은 다른 범죄 혐의가 있는 중범죄자였고 버나드는 전혀 그렇지가 않았습니다. 점수가 높으면 높을수록 형기가 더 길어지는데 이러한 점수 분류가 알고리즘적 편견 위에서 세워졌다는 것입니다. • 끝으로 캐시는 알고리즘을 관리하는 사람들에게 윤리적 책임을 요구할 필요가 있다고 말합니다. 그리고 빅데이터에 대한 맹신의 시기를 어서 마무리 짓자고 하며 강의를 마무리합니다.

The era of blind faith in big data must end | Cathy O'Neil

YouTube