[💡AI 시대를 위한 인문학자의 역할] AI Framework의 새로운 시리즈네요 :) 이번 시리즈에서는 HAI(스탠퍼드 인간중심 AI 연구소)의 부소장인 롭 리쉬(Rob Reich)와 대담을 나눕니다. 아래는 본문중 인상 깊었던 부분들입니다. 윤리적 딜레마에 빠진 기술, 균형을 잡는 프레임이 필요하다 • 인공 지능 도구들에 편견과 차별이 내재되어 있다는 것이 발견되고, 미디어에 대한 불신이 확산되고 있다. 어떠한 공통의 기준이 부재하는 경우 강력한 안면 인식 기술(facial recognition tools)은 흔히 말하는 하향식 경쟁이 될 것입니다. • 우리는 기업이 무엇을 하든 그들의 고객이 무엇을 원하든, 스마트폰에 안면 인식 기술이 내장되어 거리의 모든 사람들을 식별하는 그런 기술을 바라지는 않을 것입니다. 안면 인식 기술을 드론을 통해 활용하거나 치안 혹은 군사적 목적으로 이용하는 것에 대해서 의문을 제기하는 것 또한 비슷할 것입니다. • 혁신을 원하는 엔지니어는 어떤 규제가 생기면, 기업의 이익이나 지식의 발견에 대한 큰 방해물로 여길 것입니다. 하지만 인공 지능은 자동화된 시스템과 로봇 그리고 노동을 대체할 기술들을 통해 확산되고 있습니다. • “적절한 로봇 세금이 있거나, 인간을 대체하는 것이 아니라 인간의 능력을 강화하거나 향상시키는 것이 목적인 도구를 고안하는 것에 대한 논의는 있는가?”와 같은 질문을 할 수 있다. • 저는 윤리는 아무도 피할 수 없는 것이라고 생각합니다. 우리 모두가 도덕적 잣대를 갖고 있고, 개인의 삶과 직업인으로의 삶에서 윤리적인 문제에 직면합니다. 저는 무엇이 옳고 그른 일인지 결정해 주는 전문가가 아니라, 우리 개인의 삶, 직업인으로의 삶 그리고 특히 기술 진보의 최전선에서 피할 수 없는 가치가 상충될 때 윤리적 뼈대를 제공하는 사람이고 싶습니다. 윤리학자가 참여하는 시점은 '처음'부터이다. • 6-7년 전 페이스북 인공 지능 개발자들이 뉴스피드에서 알고리즘을 변화시키는 것으로 사람들에게 감정 변화를 일으킬 수 있는지 실험을 했어요. 행복하고 친근한 콘텐츠의 순위를 높이고 우울한 콘텐츠의 순위를 낮추거나 혹은 그 반대의 방식으로요. 뉴스피드가 우리의 몸에 직접 닿는 것은 아니지만, 인간의 웰빙에 미치는 영향을 조사하기 위해 특별히 설계된 실험이었죠. • 저는 이와 같은 맥락이 다른 인공 지능 도구들, 예를 들면 시리(Siri,) 알렉사(Alexa), 나머지 인공 지능 도구들에도 적용된다고 생각합니다. 이 도구들은 우리에게 정서적인 영향을 미치고, 정보 환경에도 영향을 미치며, 우리의 웰빙에 깊은 관련이 있다는 것이에요. 인공 지능 분야에 대해, 혈류 내에서 약물 실험을 하는 것과 완전히 같다고 말할 수는 없지만, 약물 실험에서 일어날 수 있는 비슷한 문제나 의혹을 제기한다고 생각합니다.