<이제는 AI 윤리나 공정이 아니라 실체를 고민해야 할 때입니다> 🐎 20세기 초, 영리한 한스(Clever Hans)라는 이름의 독일의 말 한 마리가 유럽에서 화제가 되었습니다. 이 말은 발굽을 두드리는 방식으로, 덧셈, 뺄셈, 시간 보기, 달력 읽기, 단어와 문장 스펠링 맞추기 등 다양한 재주를 부렸습니다. 한스는 세계적인 센세이션을 일으켰고, 사람들은 동물도 사람처럼 생각할 수 있다고 믿게 되었지요. 하지만 한스는 사실 질문하는 사람의 태도나 호흡, 얼굴 표정의 변화를 관찰함으로써 정답을 맞추는 것이라는 사실이 밝혀졌습니다. 그 반증으로 사람이 멀리 떨어져서 질문하면 한스가 정답을 맞추는 능력이 현저히 떨어졌지요. 한스가 똑똑하다는 사람들의 생각은 곧 착각이 되어버렸습니다. 한스 일화는 오늘날 AI 연구원들이 알고리즘을 평가할 때 주의해야 할 사항으로 인용됩니다. 시스템은 보이는 것만큼 똑똑하지 않기에, 정확히 파악하도록 주의해야 한다고. 📍 케이트 크로포드(Kate Crawford)는 새 저서 ‘아틀라스 오브 AI (Atlas of AI)’에서 문제는 사람들이 한스의 업적을 정의하는 방식에 있었다고 주장했습니다. “한스는 이미 서로 다른 종(種) 사이에 의사소통 하기, 사람들 앞에서 묘기 부리기, 상당히 오래 견디기 등 놀라운 행동을 하고 있었지만, 이 행동이 똑똑한 것으로 간주되지는 않았다”고 말이죠. 그래서 그녀는 AI와 AI가 실행활에 미치는 영향에 대한 탐구를 시작했습니다. 크로포드는 아틀라스 오브 AI를 통해 그간 사람들이 얼마나 협소한 시각으로 AI 기술을 바라보고 정의했는지 밝힙니다. 1️⃣ 크로포드는 AI라는 분야가 사실 '분류'에 집착한다고 이야기합니다. 그 예시로 19세기 두개골학자인 새뮤얼 모튼(Samuel Morton)이 본인이 두개골의 인종을 측정을 통해 아프리카인, 아메리카 원주민, 백인, 말레이인, 몽골인 다섯 종류로 ‘객관적으로’ 분류하는 것에 대한 이야기를 소개합니다. 하지만 크로포드는 이런 분류가 객관적인 것과는 거리가 멀다고 지적합니다. 이런 식의 분류는 사회질서를 강요하고, 위계 서열을 당연시하며, 불평등을 확대합니다. 그래서, 그녀는 AI가 더 이상 객관적이거나 중립적인 기술로 간주될 수 없다고 주장합니다. 2️⃣ 크로포드는 AI가 오히려 인공적인 것과 반대라고 주장합니다. AI는 지구 지각에서 가장 물질적인 부분, 인간의 육체 노동, 우리가 매일 생산하고 말하며 사진 찍는 모든 결과물에서 나오기 때문이죠. 크로포드에 의하면, 많은 사람들은 컴퓨터가 인간의 두뇌 같아서, 아이들처럼 훈련만 시키면, 점점 초자연적인 존재로 진화할 것이라고 추측합니다. 하지만 AI의 실체는 사실 대규모 통계 분석에 지능이라는 개념을 도입한 형태입니다. 그래서 기존의 데이터가 가진 문제 만큼의 문제밖에 가질 수 없다는 한계를 가집니다. 3️⃣ 크로포드는 AI에 '공정'과 '윤리'라는 틀을 씌우는 것에 대해 반대합니다. 대신, AI 시스템을 더 크고, 더 긴 시간적 관점에서 바라보기 시작하면, 이를 벗어나 더 큰 관점에서 볼 수 있다고 합니다. AI는 사실 지구에 지속적으로 엄청난 지형적 변화를 가하는 시스템일 뿐만 아니라, 현재 존재하는 노동 불평등을 확대시키는 시스템이라는 사실을 말입니다. 크로포드는 이 시스템이 우리와 우리가 사는 지구에 어떤 영향을 미치는지 진정으로 파악해야 한다고 주장합니다. 📍 크로포드는 우리가 기존의 방식대로 세상을 규정지으면서 너무 많은 피해를 발생시켰다고 말합니다. 그리고 그 피해는 지금도 소외된 계층에게로 고스란히 돌아가고 있습니다. 큰 흐름 안에서 AI의 윤리나 공정은 그 의미가 완전히 변질됩니다. 대신 우리는 닫힌 커튼을 열어 젖히고 시스템의 레버를 쥐고 있는 권력의 주체는 누구인지 파악할 수 있어야 합니다.