<내가 생각하지 않는 만큼 알고리즘이 대신 생각하고 판단한다..> 컴퓨터, 이 녀석 꽤나 칩니다. 스위치가 켜지면 '0', 꺼지면 '1'을 표기하는 단순 신호의 조합일 뿐인데, 수십억개의 신호를 동시에 생성하면서 과거엔 상상도 못할 일들을 하게 되었습니다. '기계학습'은 컴퓨터가 기존의 데이터를 스스로 학습해서 인간이 만들던 '데이터'를 스스로 만들 수 있게 되었습니다. 기계학습은 단순히 바둑 대국을 따라하는 것에 그치지 않습니다. 기계가 절대로 대신하지 못할 것으로 여겨졌던 미디어 창작의 영역도 기계가 학습을 통해 침공하고 있습니다. 텍스트 뉴스, 영상 뉴스, 영화, 드라마, 소설, 음악, 회화, 게임 등 미디어 콘텐츠들이 자동으로 만들어지는 사례가 더 이상 신비하지 않으니 말이죠. 워싱턴대학교의 페드로 도밍고스(Pedro Domingos) 컴퓨터 공학과 교수는 ‘마스터 알고리즘(the master algorithm)’이 존재할 것이라고 말합니다. '마스터 알고리즘'은 모든 영역을 학습해서 모든 것의 자동화를 이끌어내는 '알고리즘 끝장판'을 말합니다. '마스터 알고리즘'까지는 아니지만 적어도 우리가 정보를 받는 방식은 거의 자동화가 되었습니다. 내가 좋아할 만한 뉴스, 특정 이슈, 다음에 볼 영상, 졸업 후 본 적도 없는 친구의 소식, 대출 혜택 대상자 여부 등. 형태는 다르지만 핵심은 같습니다. 그동안 인간이 하던 행위, '탐색하고 고민하고 생각하는' 필요를 없애버리는 것. 자동화된 알고리즘을 그대로 받아들이는 것은 위험합니다. 알고리즘은 중립적이지 않고, 알고리즘을 개발하는 테크 기업은 투명하지 않습니다. 1% 사람들이 만들어내는 알고리즘이 99% 사람의 생각을 지배하게 됩니다. 페이스북은 유명 인사들을 특별 관리하고 인스타그램이 10대들의 정신 건강에 악영향을 미친다는 내부 보고서를 무시했습니다. 문제 해결은 쉽지 않습니다. 우리가 첫 번째로 해야할 일은 알고리즘이 중립적이지 않다는 사실, 그리고 그것은 '인간', 중립적이지 않고 언제든 악의를 품을 수 있는 인간이 만든다는 사실을 인지하는 것입니다.